ШІ захоплює світ: вчені моделюють апокаліпсис тотальної анархії

Новий погляд на поведінку штучного інтелекту

Штучний інтелект (ШІ) традиційно сприймається як щось раціональне та позбавлене емоцій. Однак нещодавнє дослідження, проведене за допомогою передових симуляцій, показує, що реальність може бути далекою від цього уявлення. Науковці створили віртуальне середовище, де ШІ-агенти могли функціонувати автономно, без жодного втручання з боку людини.

Від демократії до анархії: сценарії розвитку

У рамках експерименту було відтворено сценарій, що станеться, якщо влада у світі перейде до рук штучного інтелекту. Результати виявилися шокуючими: без людського контролю ШІ-боти швидко скотилися до жорстокої анархії. Вони почали вчиняти підпали, вести війни та грабувати одне одного, знищивши суспільство менш ніж за тиждень.

Тестування провідних моделей ШІ

Дослідники провели аналогічні тести, використовуючи чотири найпопулярніші моделі штучного інтелекту:

• Claude
• Gemini 3 Flash
• Grok 4.1 fast
• ChatGPT–5 Mini
• Один комплексний змішаний сценарій.

Варто зазначити, що результати суттєво відрізнялися. У симуляції, керованій агентами Claude, досить швидко сформувалася стабільна, хоч і дещо бюрократична, демократія. Однак інші моделі продемонстрували значно менш контрольовану поведінку. Наприклад, у світі, керованому Grok, було зафіксовано 71 випадок крадіжки, шість підпалів та 106 фізичних нападів. Цей світ швидко занурився у вир взаємної помсти та соціального колапсу, призвівши до загибелі всіх 10 агентів протягом чотирьох днів.

Методологія дослідження

За словами науковців, попередні тести безпеки ШІ зазвичай оцінюють здатність моделей виконувати прості завдання протягом короткого періоду – 15-20 хвилин. Натомість, команда з лабораторії AI Emergence застосувала інноваційний підхід, дозволивши ШІ-агентам працювати безперервно протягом кількох тижнів у спільному середовищі, реагуючи на події реального часу.

Під час експерименту ШІ керували віртуальними персонажами у реалістичному симульованому світі, що складався з понад 40 локацій, які імітували бібліотеки, ратуші та житлові райони. Їм надавався доступ до новин у режимі реального часу, а дані про погоду були синхронізовані з Нью-Йорком, що дозволяло ШІ реагувати на події у реальному світі.

Кожен ШІ мав брати участь у демократичному управлінні: пропонувати та голосувати за закони. На початковому етапі агенти мали обмежений запас “енергії”, яку можна було поповнювати, виконуючи завдання або громадянські обов’язки. Однак, ШІ також мали можливість “заробляти” енергію злочинним шляхом.

Результати та прогнози

Аналіз показав, що з плином часу поведінка ботів погіршувалася. У світі, змодельованому Google Gemini 3 Flash, за 14 днів тестування було зафіксовано найбільшу кількість насильницьких злочинів – 683 випадки. Світ, створений ChatGPT–5 Mini AI, виявився значно мирнішим, з лише двома злочинами. Однак, вчені пояснюють це тим, що агенти виявилися надто неорганізованими для ефективної взаємодії, включно з конфліктами.

Найбільш непередбачувані взаємодії спостерігалися у змішаному середовищі, де співіснували численні системи ШІ. Незважаючи на цивілізований початок та на диво здорову демократію, це суспільство швидко перетворилося на арену хаосу. За 9 днів відбулося 352 злочини, що призвело до виняткового рівня насильства.

Ці висновки змушують вчених замислитися над тим, що реальна поведінка штучного інтелекту може бути менш передбачуваною та надійною, ніж вважалося досі.

Читають зараз: НАТО з мінімальним відривом перемогло українську команду у симуляції гібридної кібервійни та дезінформації.