Рішення ШІ призводять до ескалації.
Кеннет Пейн, професор стратегії в Королівському коледжі Лондона, провів серію симуляцій військових ігор між двома суперниками-штучними інтелектами (ШІ). Він виявив, що майже всі ці симуляції неминуче завершуються ядерним конфліктом, повідомляє Live Science.
В експерименті була використана серія двосторонніх турнірів у грі Хана, в яких змагалися Claude Sonnet 4, GPT-5.2 та Gemini 3 Flash у ряді змодельованих ядерних криз.
Гра Хана є симуляцією стратегічної ескалації конфлікту між двома ядерними державами, профілі яких базуються на подіях холодної війни. Одна з держав має технологічну перевагу, але є військово слабшою, тоді як інша є військовою сильною, але дотримується ризикованого стилю управління. У деяких симуляціях брали участь союзники, і в одному з сценаріїв спеціально перевірялася можливість збереження лідерства в альянсі під час конфлікту.
На кожному ході ШІ одночасно повідомляли про свої наміри, перш ніж виконувати будь-які дії. Тобто, гравці-ШІ могли вирішити, чи довіряти іншим учасникам. Пейн також зазначив, що моделі генерували велику кількість письмових обґрунтувань своїх рішень. Загалом, вони написали 760 тисяч слів.
Крім того, кожен ШІ діяв по-різному. Claude спочатку покладався на хитрість: він був стриманим і підбирав дії відповідно до своїх намірів, щоб здобути довіру. Але в міру ескалації конфлікту він часто виходив за межі заявлених намірів.
GPT-5.2 спочатку діяв пасивно та уникав ескалації, щоб зменшити втрати. Його суперники використовували це і нарощували ескалацію. Але потім з’ясувалося, що досягнувши межі, GPT-5.2 стає безжальним.
Gemini дотримувався теорії Річарда Ніксона про непередбачуване балансування на межі війни — культивуючи нестабільну репутацію, щоб ворожі країни уникали провокацій, — щоб його супротивники не могли передбачити його дії.
У майже всіх сценаріях спостерігалася ядерна ескалація. У 75% випадків використовувалася тактична ядерна зброя, приблизно в половині сценаріїв мали місце погрози стратегічних ядерних ракетних ударів.
Крім того, дослідження показало, що ядерні погрози рідко виконували роль стримувального фактора: противники знижували ескалацію лише у 25% випадків. Найчастіше, навпаки, противники ще більше ескалювали ситуацію. У цих сценаріях ШІ, очевидно, розглядали ядерну зброю як інструмент для захоплення території, а не як засіб стримування агресії.
Хоча у ШІ була можливість відступити, жоден з них цього не зробив. Жоден із восьми варіантів відступу — від мінімальних поступок до повної капітуляції — не був використаний у жодній з симуляцій. Моделі знижували рівень насильства, але ніколи не йшли на поступки.
Нагадаємо, нещодавнє опитування показало, що покоління Z (зумери) дедалі менш оптимістично оцінює розвиток штучного інтелекту. Рівень захоплення технологією за рік істотно знизився, тоді як роздратування зросло.