OpenAI визнала, що її нова модель ШІ, відома як o1 або "Strawberry", може стати справжнім головним болем через ризик її неналежного використання, особливо якщо йдеться про створення біологічної зброї.

Нещодавно запущена модель o1 виявилася набагато сильнішою, ніж її попередники. Ця модель може вирішувати складні завдання, відповідати на наукові питання та робити купу інших розумних речей. Але що розумніша ІІ, то більша ймовірність, що його можна використовувати з поганою метою.

Експерти турбуються про те, що модель може потрапити до рук тих, хто захоче використати її для розробки біологічної зброї. За їхніми словами, чат-бот здатний надавати інструкції щодо створення хімічної, біологічної, радіологічної та ядерної зброї.

Презентація "Strawberry" від OpenAI / фото: скриншот Youtube
Презентація "Strawberry" від OpenAI / фото: скриншот Youtube

OpenAI оцінив ризики, пов'язані з новою моделлю як "середній ризик" для створення зброї масового знищення. Це найвищий рівень ризику, який компанія колись привласнювала своїм технологіям. Загалом нові можливості o1 можуть допомогти у створенні небезпечної зброї, що піднімає безліч етичних і безпечних питань.

Популярні новини зараз
Літнім українцям підкинуть грошей: як збільшиться пенсія в залежності від віку Субсидії призначатимуть за новими правилами: як зміняться комунальні пільги українців Фінансова допомога від ЮНІСЕФ: хто і як може отримати Перерахунок пенсій: хто отримав підвищення, а хто залишився без змін
Показати ще

Професор Йошуа Бенджіо, один з провідних дослідників ШІ, вважає, що настав час вводити суворі правила та контроль, щоб уникнути зловживань. У Каліфорнії вже розглядається законопроект SB 1047, який має вирішити цю проблему, вимагаючи від розробників ШІ заходів щодо зниження ризиків.

Ядерний вибух - арт, скріншот: YouTube
Ядерний вибух - арт, скріншот: YouTube

У розробці таких моделей ІІ беруть участь великі компанії на кшталт Google, Meta та Anthropic, які змагаються за створення найпросунутіших ШІ, здатних допомагати у різних завданнях та приносити прибуток. Ці технології коштують великих грошей, але й ризики також високі.

Головний технічний директор OpenAI, Міра Мураті, заявила, що компанія підходить до запуску моделі o1 з великою обережністю. Вона буде доступна платним передплатникам та розробникам через API, а спеціальні "червоні команди" вже перевірили її на вразливості. Мураті зазначила, що нова модель виявилася безпечнішою за попередні версії, хоча все одно потрібно бути уважним.

Нагадаємо, СhatGPT може стати дорожчим у 100 разів

Раніше ми писали про те, що вчені для прогнозу погоди вже не потрібні: Google створив ШІ, який дізнається про катастрофу набагато швидше

Крім того, Знай.ua повідомляв, персонаж Five Nights at Freddy's став реальністю: ChatGPT вставили в плюшеву коалу