Керівник відділу робототехніки OpenAI подав у відставку після укладення угоди з Пентагоном. Це рішення було прийнято без належного обговорення можливих ризиків.

Кейтлін Каліновскі висловила занепокоєння щодо недостатнього обговорення в компанії застосування ШІ в секретних оборонних мережах.

Кейтлін Каліновскі, яка очолювала напрямок робототехніки та споживчого обладнання в OpenAI, оголосила про свою відставку. Причиною цього стало підписання угоди компанії з Міністерством оборони США щодо впровадження моделей штучного інтелекту в секретні хмарні мережі. Каліновскі зазначила, що рішення було ухвалене без належного обговорення можливих ризиків, повідомляє Reuters.

За словами Каліновскі, OpenAI не витратила достатньо часу на обговорення перед тим, як погодитися на впровадження своїх моделей штучного інтелекту в секретні хмарні мережі Пентагону. Вона підкреслила, що використання таких технологій вимагає більш широкої суспільної дискусії. Навіть генеральний директор OpenAI Сем Альтман через день після підписання угоди назвав це рішення “поспішним”.

“ШІ має суттєве значення для національної безпеки. Однак спостереження за американцями без судового контролю та автономні системи з можливістю завдання шкоди без участі людини — це питання, які заслуговують на більше обговорення, ніж вони отримали”, — зазначила Каліновскі в соціальній мережі X.

Каліновскі приєдналася до OpenAI у 2024 році. Раніше вона працювала в Meta Platforms, де керувала розробкою апаратного забезпечення для технологій доповненої реальності.

У статті “Пентагон і Claude: що за лаштунками конфлікту?” Олексій Костенко аналізує безпрецедентне рішення США внести компанію Anthropic до списку ризикованих постачальників після її відмови надати військовим необмежений доступ до моделі Claude. На фоні цього протистояння дослідження показують, що найсучасніші моделі ШІ у симуляціях ядерних криз схильні до швидкої ескалації, часто обираючи тактичні ядерні удари як “раціональний” шлях до перемоги.