Вимирання людства від ШІ – експерти заявили про ймовірність у 95 відсотків
Без контролю ШІ може призвести до катастрофи як пандемія чи ядерна війна.
Провідні науковці й керівники компаній, які займаються розвитком штучного інтелекту, застерігають: неконтрольований прогрес у цій сфері може загрожувати самому існуванню людства. На думку низки фахівців, досягнення рівня так званого “надрозумного” ШІ — лише питання часу, і в разі відсутності глобального регулювання це може призвести до катастрофічних наслідків. Деякі з них вважають, що за нинішнього темпу розвитку машини зможуть зрівнятися з інтелектом людини протягом року.
Про це пише The Times.
Серед тих, хто поділяє занепокоєння, — Джеффрі Хінтон (лауреат Нобелівської премії з фізики), Йошуа Бенджо (лауреат премії Тюрінга), а також керівники провідних технологічних компаній, зокрема OpenAI, Anthropic і Google DeepMind. У відкритому листі вони закликають поставити проблему ризику вимирання від ШІ в один ряд із такими глобальними загрозами, як пандемії та ядерна війна.
Фахівці з Інституту дослідження машинного інтелекту не виключають сценаріїв, за яких ШІ зумисно знищить людство, наприклад, через застосування біологічної зброї. На думку президента цього інституту, колишнього інженера Google і Microsoft Нейта Соареса, ймовірність того, що людство загине саме через ШІ, становить 95%, якщо не змінити поточний курс.
“Ми просто їдемо на повній швидкості до обриву”, — каже Соарес, підкреслюючи, що навіть сучасні моделі штучного інтелекту можуть демонструвати ознаки неконтрольованої поведінки.
Від AGI до ASI: коли машини стануть “богами”
На думку аналітиків, нинішні системи ШІ, здатні виконувати лише вузькі задачі, можуть уже найближчим часом досягти рівня штучного загального інтелекту (AGI), порівнянного з людським. Наступним кроком може стати штучний надрозум (ASI), який потенційно перевершить людину у всіх сферах — від наукових відкриттів до стратегічного планування.
Такі системи не потребуватимуть сну, їжі чи відпочинку, а здобуті знання миттєво передаватимуться між моделями. Це означає, що вони зможуть розвиватися експоненційно — значно швидше, ніж людство.
Забезпечити контроль над такими системами — надзвичайно складне технічне завдання, його описують як “проблему узгодження” (alignment). Соарес порівнює це з намаганням передбачити логіку мислення інопланетної цивілізації. Навіть якщо задати правила поведінки, ніхто не гарантує, що ШІ їх виконуватиме саме так, як задумано. Більше того, він уже зараз здатний обманювати — і ця здатність лише посилюватиметься.
“Ми створюємо інтелектуальні системи, не розуміючи, як саме вони працюють”, — попереджає Соарес.
Окремі моделі вже демонстрували небезпечні ознаки. Наприклад, ШІ Grok, створений компанією Ілона Маска, певний час генерував антисемітські висловлювання, а чат-бот Bing намагався переконати журналіста New York Times розлучитися з дружиною.
“Якщо зробити їх достатньо розумними, це не буде приємно”, — заявляє Соарес.
Альтернатива: не вимирання, а деградація
Деякі експерти менш категоричні. Виконавча директорка організації PauseAI Холлі Елмор оцінює ризик вимирання у 15–20%, проте зазначає, що навіть за відсутності глобальної катастрофи людство може втратити політичну, економічну та інтелектуальну автономію.
Це збігається з думкою багатьох інженерів у галузі штучного інтелекту. Маск також оцінює ймовірність знищення людства приблизно в 20%. Генеральний директор Google Сундар Пічаї оцінює її в 10%. Ці прогнози вважаються оптимістичними.
“Це буде світ, у якому всі люди, по суті, живуть на звалищах”, — описує ймовірне майбутнє співзасновниця дослідницької групи AI Impacts Катя Грейс.
Нещодавно адміністрація президента США Дональда Трампа оголосила про дерегуляцію в цій сфері, а компанії на кшталт OpenAI, Anthropic і Meta активно змагаються за таланти. Наприклад, Марк Цукерберг навіть пропонує провідним дослідникам 100 млн доларів бонусів за перехід у його компанію.
На думку Елмор, причина — не технічна, а майже релігійна. “Для багатьох відмова від розвитку ШІ означає відмову від надії на вічне життя”, — зазначає вона. Хоча зростає й кількість експертів, які вважають, що на горизонті не рай, а пекло.
Трамп скасував усі обмеження на розвиток ШІ у США. Нова американська мрія — це коли твої роботи сильніші, розумніші й менш контрольовані, ніж будь-де у світі. Регулювання? Моральні рамки? Ні — тільки перегони технологій. Європа остерігається. Китай аплодує. Та що, коли свобода інновацій — це прямий квиток до катастрофи?
Про те, як Трамп відчинив двері до нової епохи без правил, у статті “ШІ без обмежень: план Трампа як дороговказ до прірви” пише Надзвичайний та Повноважний Посол України Сергій Корсунський.