Очільники великих технологічних компаній звернулися з проханням посилити заходи безпеки у сфері штучного інтелекту, оскільки прогрес у цій галузі може полегшити розробку небезпечних патогенів.

Розробники закликають Конгрес США контролювати замовлення синтетичної ДНК та РНК.

Керівники провідних компаній у сфері штучного інтелекту звернулися до Конгресу США з проханням посилити контроль над замовленнями синтетичної ДНК та РНК, щоб уникнути можливого використання ШІ для створення небезпечних патогенів. Відповідний лист підписали голова OpenAI Сем Альтман, генеральний директор Anthropic Даріо Амодей та керівник Google DeepMind Деміс Хассабіс, повідомляє The Wall Street Journal.

Автори звернення пропонують запровадити законодавчі вимоги для компаній, які реалізують синтетичні нуклеїнові кислоти, щодо перевірки клієнтів та аналізу замовлень на предмет можливих ризиків. У разі виявлення небезпечних комбінацій ДНК або РНК такі замовлення повинні бути заблоковані.

У листі підкреслюється, що розвиток штучного інтелекту може суттєво знизити бар’єри для виготовлення біологічної зброї. На думку підписантів, технології, які вже сьогодні сприяють науковим відкриттям та розробці лікарських засобів, можуть також бути використані зловмисниками для створення нових патогенів.

“Системи штучного інтелекту швидко вдосконалюються, і поряд із значними перевагами для науки та медицини існує реальна загроза того, що бар’єри у вигляді знань, які історично заважали зловмисникам отримати біологічну зброю, можуть бути суттєво ослаблені”, — йдеться у зверненні.

Ініціаторами листа стали два американські аналітичні центри, що спеціалізуються на технологічній політиці. Вони визначили питання біологічної безпеки як одну з небагатьох тем, що об’єднує представників різних політичних сил, дослідників та керівників конкурентних технологічних компаній. Звернення також підписали керівник напряму штучного інтелекту Microsoft Мустафа Сулейман та головний директор з питань ШІ компанії Meta Олександр Ван.

У документі також зазначається, що існуючі механізми контролю в основному є добровільними або поширюються лише на організації, які отримують федеральне фінансування. Прихильники нових правил вважають, що Конгрес повинен ухвалити окремий закон, який поширюватиметься на всіх покупців синтетичних нуклеїнових кислот. Водночас критики попереджають, що додаткові вимоги можуть створити фінансовий тягар для стартапів та уповільнити розвиток біотехнологічної сфери.

Колишній радник президента США Дональда Трампа з питань штучного інтелекту Дін Болл, який допомагав організувати кампанію на підтримку листа, зазначив, що потенційні витрати виправдані масштабом ризиків. За його словами, перевірка замовлень на синтетичні біологічні матеріали є розумною вимогою з огляду на загрозу створення біологічної зброї.

Звернення з’явилося незабаром після того, як Дональд Трамп підписав указ щодо контролю за моделями штучного інтелекту та кібербезпеки. Документ став частиною нового підходу адміністрації до регулювання галузі після скасування попередніх норм, запроваджених за президентства Джо Байдена.