«Крестный отец ИИ» покидает Google и предупреждает об опасности впереди

На захватывающем перекрестке эволюции ИИ один человек противостоит техническим титанам, предупреждая о будущем, в котором правда искажена, рабочие места потеряны, а человечество находится под угрозой. Познакомьтесь с доктором Джеффри Хинтоном, пионером искусственного интеллекта, который сейчас является самым громким критиком отрасли:

Доктор Джеффри Хинтон, пионер искусственного интеллекта (ИИ) и один из самых уважаемых людей в этой области, уволился с работы в Google, чтобы выразить обеспокоенность по поводу рисков, связанных с технологиями генеративного ИИ, такими как те, которые используются в популярных чат-ботах. Технология, разработанная Хинтоном и его студентами в Университете Торонто в 2012 году, формирует интеллектуальную основу для систем искусственного интеллекта, широко используемых сегодня технологическими гигантами.

Однако теперь Хинтон присоединяется к критикам, которые утверждают, что эти компании находятся на опасном пути с их агрессивным стремлением создавать продукты на основе генеративного ИИ. Он считает, что технология может представлять серьезные угрозы, включая дезинформацию, потерю работы и, возможно, риск для человечества. Его беспокойство еще больше усиливается конкурентной гонкой технологической отрасли за развертывание технологий искусственного интеллекта, которую, по его мнению, может не остановить.

После выпуска OpenAI новой версии ChatGPT более 1000 технологических лидеров и исследователей призвали ввести мораторий на разработку таких систем из-за их потенциальных рисков. Однако Хинтон воздерживался от подписания каких-либо из этих писем и публичной критики Google или других компаний до своей отставки.

Карьера доктора Хинтона была основана на приверженности развитию и использованию ИИ, особенно нейронных сетей. Его работа вместе со студентами привела к значительным прорывам в области искусственного интеллекта, включая чат-боты, такие как ChatGPT и Google Bard. Однако по мере того, как эти системы развиваются и становятся все более мощными, Хинтон все больше беспокоится об их потенциальном вреде.

Хотя многие эксперты утверждают, что эта угроза является гипотетической, Хинтон считает, что без глобального регулирования обостряющаяся конкуренция между технологическими гигантами может иметь серьезные последствия. Он призывает ведущих ученых мира сотрудничать в поиске путей управления технологией. Его опасения распространяются на будущее с автономным оружием и интернетом, наводненным ложной информацией, генерируемой технологиями искусственного интеллекта. Он также обеспокоен тем, что технологии искусственного интеллекта могут разрушить рынок труда и заменить многие рабочие места, которые в настоящее время выполняются людьми.

См. полную статью NYT здесь .