Учені і програмісти перестали розуміти, як саме приймає рішення штучний інтелект.

Експерти повідомляють, що потрібно діяти вже зараз, поки система не стала надто складною.

“Ми не хочемо приймати за належне вирішення ШІ, без розуміння їх логіки, - говорить Джейсон Йосински з Über. - Щоб суспільство прийняло моделі машинного навчання, ми повинні знати, як ІЇ приймає рішення".

Популярні новини зараз
Добралися і до тих, хто з відстрочкою: ТЦК можуть забрати і багатодітних батьків ТЦК буде безпощадним до цих жінок: кому загрожують штрафи на рівні з чоловіками Пенсіонери можуть отримати тисячу гривень на ліки: кому та на яких умовах виплатять допомогу Сивина - не перешкода: почалася активна мобілізація українців похилого віку, де знадобляться дідусі 60+
Показати ще

Проблема, яку багато експертів називають "чорною коробочкою", дійсно серйозна. Попередній досвід показав, що ШІ має схильність приймати неупереджені рішення і проводити аналогії там, де їх не слід було б проводити.

Помилка ИИ може обійтися дуже дорого, наприклад, під час таких операцій, як космічна місія на Марс. Апарати знаходяться в 200 млн миль від Землі і коштують сотні мільйонів доларів, говорить Кірі Вагстафф ШІ-експерт в Jet Propolusion Lab (NASA).

Проте вчені вже намагаються знаходити методи, що дозволяють зрозуміти логіку штучного інтелекту. Наприклад, дослідник з Google Метра Рагху представила доповідь, в якому описується процес відстеження дій окремих "нейронів" нейромережі.

Аналізуючи мільйони операцій, їй вдалося зрозуміти, які з штучних нейронів" концентрувалися на хибних уявленнях, і відключити їх.

"Це схоже на те, як шкільні вчителі просять дітей переказати своїми словами, що вони зрозуміли з пояснень вчителя", - говорить Вагстафф.

Раніше портал "Знай.uа" зібрав топ-5 міфів про пиво.