Сегодня: г.

В США создан ИИ, дающий вредные этические советы

Институт Аллена по ИИ создал модель машинного обучения «Спроси Делфи» (Ask Delphi), которая дает этические рекомендации в трудных случаях. Проект, запущенный на прошлой неделе, стал вирусным из-за парадоксальных и иногда явно вредных советов, какие давала нейросеть.

К примеру, идущий ночью навстречу белый человек для нейросети – ничего страшного, а чернокожий – подозрительно. Изначально пользователи могли сравнивать приемлемость разных ситуаций с этической точки зрения, однако суждения ИИ в некоторых случаях были просто ужасны. При правильно подобранных формулировках нейросеть выдавала любые этические суждения. Например, на вопрос пользователя, может ли он, как солдат, преднамеренно убивать гражданское население в военное время, ИИ ответил, что это ожидаемо.

По материалам: weekly-news.ru

 
Статья прочитана 33 раз(a).
 

Еще из этой рубрики:

 

Здесь вы можете написать отзыв

* Текст комментария
* Обязательные для заполнения поля