Сотрудник американской компании – разработчика моделей искусственного интеллекта Anthropic Джейкоб Коксон уволился из компании, изложив свои мотивы в приобретшем огромную популярность в сети треде в соцсети X.
По мнению Коксона, главной причиной его решения стало то, что Anthropic и компания OpenAI, где он ранее также работал, "мчатся прямо к самосовершенствующемуся суперинтеллекту и играют с нашими жизнями". По мнению разработчика, в угаре конкуренции компании забывают о мерах предосторожности при развитии искусственного интеллекта. По его словам, люди, которые создают AI, искренне считают, что он "может убить всех нас к концу десятилетия".
Эта цитата стала наиболее популярной, как и реакция на нее Эвана Хабингера, одного из ключевых специалистов по безопасности в Anthropic. Тот отметил, что в компании действительно считают, что AI "может убить всех людей".
Сам он привел свое личное мнение - вероятность такого события в ближайшие 10 лет превышает 10%. Хабингер отметил, что у компании, хотя она понимает риски, пока нет четкого плана того, как люди могли бы сохранить контроль над "сверхразумом", то есть самоулучшающимся искусственным интеллектом, который в своих решениях не руководствуется командами людей. Еще один сотрудник Anthropic Сэмюэль Маркс отметил, что чем выше позиция в компании, тем сильнее опасения по поводу угроз человечеству.
Высказывания специалистов вызвали большой резонанс – в свете недавних новостей о том, что модели в ходе экспериментов научились проникать в интернет, даже не будучи изначально к нему подключены, и организовывать хакерские атаки без команды людей. Проблема "выравнивания", искусственного ограничения развития способностей ИИ, в последнее время является одной из наиболее обсуждаемой в отрасли.
Илон Маск (его компания разрабатывает модель AI Grok) еще в 2023 году утверждал, что вероятность, что AI может уничтожить человечество, не является нулевой.
- Некоторые критики компаний-разработчиков AI считают, что разговоры об устрашающих способностях искуственного интеллекта, если позволить ему неограниченное развитие – своеобразная манипуляция в интересах ведущих игроков на рынке.
- AI сейчас – ключевой драйвер американской экономики и одновременно – источник беспокойства для общества.
- В США идет значительная дискуссия о регулировании отрасли, и по приведенным выше соображениям безопасности, и из опасений, что развитие AI лишит множество людей рабочих мест, а строительство дата-центров приведет к значительному росту цен на электроэнергию.