Эксперт отверг возможность ИИ навредить людям

Фото: Владимир Астапкович/РИА Новости

У нейросетей нет навыка целеполагания.

Они могут наносить ущерб только следуя запросам человека. Об этом в эфире радиостанции «Говорит Москва» рассказал профессор кафедры инфокогнитивных технологий, руководитель лаборатории ИИ Московского Политеха Андрей Филиппович.

«Я хочу заверить всех, что в настоящее время целеполагание у искусственного интеллекта отсутствует. И многие говорят, какая вот цель должна быть у искусственного интеллекта, чтобы он нанёс нам вред. Все говорят: вот он там чего-то хочет. Но нельзя такой вопрос придумать на самом деле, который, собственно, может породить какое-то действие. Он может случайно детектировать вражеское какое-то движение, и его, соответственно, повредить. Может случайно отключить какие-то алгоритмы, сработать неправильно. То есть вред нанести техногенный он может в силу того, что он подключён к техногенной системе. Поэтому если нет цели уничтожить, повредить, то она и не будет работать. А вот может ли её заложить, запрограммировать какой-то злой человек, недобрый, да, легко может».

Ранее врач предложил медикам использовать ИИ в качестве «ассистента». Нейросети внедряются в систему здравоохранения повсеместно.