Сотрудник американской ИИ-компании уволился и предупредил мир об опасности

Мринанк Шарма, руководитель исследовательского подразделения по безопасности искусственного интеллекта в американской компании Anthropic, покинул организацию, предупредив о надвигающейся угрозе для мира.

«Я принял решение уйти из Anthropic... Понял, что пришло время двигаться дальше. Я постоянно осознаю необходимость учитывать нашу текущую ситуацию. Мир находится в опасности — не только из-за искусственного интеллекта или биологического оружия, но и из-за множества взаимосвязанных кризисов, которые разворачиваются прямо сейчас», — написал Шарма в открытом письме своим коллегам, опубликованном на его странице в социальной сети X.

Позднее Зои Хитциг, бывшая исследовательница компании OpenAI, проработавшая там два года, в статье для New York Times выразила «серьезные сомнения» относительно стратегии OpenAI, комментируя тестирование рекламы в ChatGPT.

«Пользователи делятся с чат-ботами своими страхами по поводу здоровья, проблемами в отношениях и взглядами на Бога и загробную жизнь. Реклама, основанная на этих данных, может использоваться для манипуляции людьми способами, которые нам сложно понять и тем более предотвратить», — подчеркнула она.

Ранее американский журнал Time объявил «Человеком года» ведущих разработчиков искусственного интеллекта, включая Илона Маска, главу компании xAI, Марка Цукерберга, основателя Meta*, и Сэма Альтмана, руководителя OpenAI.

*Деятельность Meta (социальные сети Facebook и Instagram) запрещена в России как экстремистская.

Источник и фото - ria.ru