ИИ может представлять смертельную угрозу для человечества уже в ближайшие годы, при этом компании продолжают ускорять разработку всё более мощных систем. Об этом заявил Джейкоб Коксон, бывший исследователь Anthropic и OpenAI, который 8 сентября объявил об уходе из индустрии.
27-летний Джейкоб Коксон последние три года работал над системами, лежащими в основе передовых моделей ИИ. После ухода из Anthropic он опубликовал в X подробный тред, в котором объяснил своё решение и раскритиковал крупнейшие компании отрасли за недостаточное внимание к рискам.
«Ни одна из этих компаний не ведёт себя ответственно. Они мчатся прямо к самоулучшающемуся сверхинтеллекту», — написал исследователь.
По его словам, ИИ-системы приближаются к возможностям, которые могут радикально изменить баланс сил между людьми и машинами. В частности, Коксон считает, что в перспективе такие системы смогут находить уязвимости практически в любых технологиях, за одну ночь переворачивать целые отрасли и получать доступ к реальной власти и ресурсам.
При этом, утверждает бывший сотрудник Anthropic, скорость развития ИИ пока не снижается.
Особую тревогу Коксона вызывает то, что сами специалисты отрасли, по его словам, допускают крайне опасный сценарий развития событий, но публично говорят об этом гораздо осторожнее.
«Люди, создающие ИИ, всерьёз верят, что к концу десятилетия он может убить нас всех», — заявил он.
Коксон считает, что проблема заключается не только в потенциальных возможностях будущего сверхинтеллекта, но и в самой гонке между компаниями. По его словам, разработчики продолжают наращивать мощности ИИ, хотя не могут гарантировать, что сохранят контроль над системами, которые создают.
«Они играют нашими жизнями», — написал Коксон.
Вы поможете этому сайту, сделав несколько перепостов его публикаций в социальных сетях (Facebook, Twitter (X), Google и других). Сделай доброе дело!
Подписывайтесь на наш Телеграмм-канал https://t.me/censorunet и YouTube канал
