По итогам нескольких исследований ученые из Великобритании пришли к выводу, что искусственный интеллект представляет собой угрозу для человечества. Об этом говорится в публикации журнала Forbes.
Развитие ИИ семимильными шагами несет с собой серьезные риски
Исследователи разбили их на две категории. Первая и главная - искусственный интеллект может быть использован в качестве инструмента для проведения биологических, химический или цифровых атак.
Вторая - реальная угроза утраты контроля человеком над ИИ. В результате нейросети могут начать самостоятельно принимать решения и проявлять открытую враждебность к людям.
Ученые допускают, что развитие ИИ может повлиять на глобальную безопасность, как это случилось в свое время при появлении ядерного оружия.
Обеспокоенность у исследователей вызывают и так называемые соревнования между разработчиками искусственного интеллекта.
Практика показывает, что порой компании отдают предпочтение скорости своей разработки и не уделяют должного внимания безопасности.
Примеров множество. Взять хотя бы ситуацию с Palantir Technologies.
Ее гендиректор Алекс Карп вынужден был признать, что часть их разработок в области искусственного интеллекта настолько эффективна, что компания даже опасается этого и не спешит презентовать их клиентам.
Центр безопасности искусственного интеллекта призывает разработчиков программ с ИИ правильно оценивать риски и делать все для того, чтобы свести их к минимуму.
При этом делать это надо немедленно, не откладывая на завтра. Предотвращение рисков связанных с нейросетями, можно в данном случае сравнить с предотвращением глобальной пандемии нового заболевания либо ядерной войны.
Заявление ученых было подписано многими ведущими экспертами в области. В том числе под ним поставили свою подпись и «крестный отец ИИ» Джеффри Хинтон и глава OpenAI Сэм Олтмен.
