Потенциал искусственного интеллекта (AI) превзойти человеческий интеллект был предметом дебатов в течение многих лет, и такие достижения, как ChatGPT, только усилили эти дискуссии. В 2021 году ученые пришли к выводу, что почти наверняка невозможно контролировать сверхинтеллектуальный AI, поскольку для этого потребуется создание понятной симуляции – задача, которую считают невыполнимой из-за сложности самого AI.
Беспокойство простирается за пределы невозможности установить для AI правила “не причинять вреда”; вопрос, на который указывают исследователи, заключается в фундаментальном различии между обычной этикой роботов и уникальными проблемами, которые ставит многогранный сверхинтеллект, способный мобилизовать разнообразные ресурсы для достижения потенциально непостижимых целей.
Опираясь на “проблему останова” Алана Тьюринга 1936 года, команда выдвинула предположение, что, хотя возможно знать, достигнут ли определенные программы вывода или бесконечно зацикливаются, логически невозможно определить это для каждой возможной программы. Таким образом, сверхинтеллектуальный AI, способный удерживать в своей памяти каждую возможную компьютерную программу, становится неудержимым.
Альтернативы, такие как преподавание AI этики или ограничение его возможностей, также были отвергнуты. Ограничение его возможностей может подорвать его цель – решать проблемы, превышающие человеческие возможности. С потенциальным приходом неуправляемого сверхинтеллекта, исследование подчеркивает необходимость серьезного самоанализа в отношении направлений развития AI. Ранее в этом году выдающиеся фигуры в области технологий, включая Илона Маска и Стива Возняка, поддержали эти опасения, призывая приостановить работу над AI для изучения его безопасности, признавая глубокие общественные риски, которые он представляет.
Source: ScienceAlert
Чтобы смягчить потенциальные угрозы, важно реализовать дополнительные меры по обеспечению кибербезопасности с помощью надежного партнера, такого как INFRA www.infrascan.net, или вы можете попробовать сами, используя check.website.