Глава безопасности ИИ в Anthropic уходит в поэзию и предупреждает о рисках технологий

Руководитель отдела безопасности искусственного интеллекта компании Anthropic Мринанк Шарма покинул свой пост. Специалист, возглавлявший направление защиты данных, открыто заявил о растущих рисках, связанных с развитием технологий.

В зону ответственности Шармы входила разработка систем защиты от потенциальных угроз, включая риски биотерроризма. Его группа также изучала долгосрочные сценарии влияния ИИ на человеческую цивилизацию. В прощальном обращении к коллегам он назвал свою миссию выполненной.

«Похоже, мы приближаемся к порогу, когда наша мудрость должна расти в равной мере с нашей способностью влиять на мир, иначе нам придется столкнуться с последствиями», — приводит слова эксперта Business Insider.

Следующим шагом Шармы станет не переход в конкурирующую компанию и не запуск стартапа. Эксперт намерен посвятить себя изучению поэзии. В этом решении прослеживается стремление к балансу между сухой логикой алгоритмов и поиском человеческого смысла. Он не бежит от технологий, но ищет противовес их растущей мощи.

Отток ключевых фигур из Anthropic приобретает системный характер. Ранее свои посты покинули исследователь Херш Мехта и ведущий специалист в области ИИ Бехнам Нейшабур. Бывший сотрудник отдела безопасности Дилан Скандинаро, напротив, перешел в OpenAI. Шарма же выбрал путь, лежащий за пределами индустрии.