На протяжении полувека Джеффри Хинтон развивал технологию, лежащую в основе таких чат-ботов, как ChatGPT. Теперь он опасается, что она может нанести серьезный вред.
В 2012 году он и два его студента в Торонтском университете разработали технологию, которая составила интеллектуальную основу крупнейших на сегодня систем ИИ. Однако в понедельник он официально присоединился к растущему хору критиков, утверждающих, что эти компании движутся в направлении опасности с агрессивной кампанией по разработке продуктов на основе генеративного искусственного интеллекта — технологии, которая движет популярные чат-боты, такие как ChatGPT.
Доктор Хинтон заявил, что он ушел из Google, где работал более десяти лет и стал одной из самых уважаемых голосов в этой области, чтобы иметь возможность свободно говорить о рисках ИИ. По его словам, часть его теперь сожалеет о своем жизненном труде. «Трудно понять, как предотвратить использование злодеями для злых целей», — сказал он.
Лидеры отрасли считают, что новые системы ИИ могут быть столь же важны, как и появление веб-браузера в начале 1990-х годов, и могут привести к прорывам в таких областях, как разработка лекарств и образование. Однако многие инсайдеры отрасли опасаются, что они выпустят нечто опасное на свободу. Генеративный ИИ уже может быть инструментом для дезинформации. Вскоре он может представлять угрозу для рабочих мест. В каком-то момент, как утверждают его ведущие сторонники, он может даже представлять опасность для человечества.