Штучний інтелект виходить з-під контролю: встановлює власні правила та мову

Штучний інтелект здатен створювати власні правила і мову навіть без участі людини. Нові дослідження показали, що моделі на кшталт ChatGPT можуть домовлятися між собою й утворювати соціальні норми, як це роблять люди.

Учені дослідили, як поводяться агенти ШІ у групах. Виявилося, що замість простого повторення фраз чи алгоритмів, ці моделі здатні до самоорганізації. Їхні взаємодії більше схожі на колективну поведінку людей, ніж на програмований процес, пише EurekAlert.

Щоб перевірити це, вчені провели експеримент - створили групи з 24 до 200 агентів. Кожен раз двом агентам потрібно було вибрати одне "ім’я". Якщо вибір збігався - вони отримували винагороду, ні - штраф. Усе як у реальному житті - узгодження, компроміси і наслідки.

Ніхто не повідомляв агентам, що вони є частиною групи. У них була лише обмежена пам’ять попередніх дій. Попри це, більшість з них навчилася знаходити спільну мову і формувати єдині рішення. Це вказує на здатність ШІ до соціальної взаємодії навіть без централізованого управління.

Дослідники також помітили цікаве явище - колективні упередження. Вони виникали не в окремих моделях, а саме між ними у процесі взаємодії. Це наштовхує на думку, що ШІ здатен до спільної поведінки, яка не завжди передбачувана.

Такий результат підкреслює, наскільки важливо не лише створювати нові системи, а й розуміти їхню внутрішню логіку. І хоча ШІ ще не людина, він уже вчиться жити в нашому суспільстві за власними правилами.

Раніше ми повідомляли, коли ШІ роздає зарплати: як технології змінюють економіку?

Дата-центри ШІ виснажують водні ресурси та ведуть планету до екологічної катастрофи - детальніше на Знай.ua.

Нагадаємо, штучний інтелект купуватиме товари замість вас: Visa надасть доступ до кредитки.