Эксперт допустил уничтожение цивилизации искусственным интеллектом

Фото: РИА Новости

Сценарий возможен, если человечество не будет соблюдать меры предосторожности при использовании технологий.

Особую опасность представляет бесконтрольное применение нейросетей в управлении ядерными системами.

Такое мнение в эфире радиостанции «Говорит Москва» выразил научный журналист, главный редактор портала «Нейроновости» Алексей Паевский.

«Искусственный интеллект, конечно, может уничтожить человечество, если оно будет настолько тупым. Если оно доверит нейросети управлять функциями ядерного оружия бесконтрольно, например. Тогда человечество может быть уничтожено, но не потому, что это искусственный интеллект захотел этого, — любая технология просто может дать сбой. Во всех технологиях, которые потенциально опасные, существует большое количество систем контроля и противовеса. Даже президент сам по себе не может просто ударить по красной кнопке и всё уничтожить. Там есть некая система подтверждения. У любой технологии опасность есть».

Ранее издание Axios сообщило, что ряд сотрудников ведущих компаний в сфере ИИ покинули свои посты из-за обеспокоенности возможными рисками. По данным журналистов, как минимум десять специалистов, включая топ-менеджеров, уволились, опасаясь разрушительных последствий стремительного развития нейросетей.

Некоторые представители индустрии считают угрозу вполне реальной. Основатель чат-бота Grok Илон Маск оценивает вероятность уничтожения человечества ИИ в 20%, а генеральный директор Google Сундар Пичаи называет такой сценарий «довольно вероятным».