🌀🆕🌀 Сентябрьские скандалы в американской прессе и политике Американские законодатели раскритиковали компании ИИ после предупреждения бывшего сотрудника о возможном вымирании человечества к 2030 году. 🔷 Скандал в американской политике разразился после того, как бывший сотрудник Anthropic Джейкоб Коксон публично заявил, что искусственный интеллект превратится в «сверхчеловеческие системы», способные уничтожить человечество уже к концу десятилетия. Эксперт, проработавший три года в OpenAI и Anthropic, обвинил обе компании в безответственности. По его словам, корпорации без оглядки мчатся к самосовершенствующемуся сверхинтеллекту. В результате сенаторы Тед Круз и Берни Сандерс потребовали немедленных ограничений для ИИ. Помимо этого, конгрессмены Тед Лью и Лори Трахан призвали Конгресс прекратить бездействие и принять двухпартийный закон об отключении ИИ. 🔷 Волна возмущения подогревается недавними инцидентами: компании OpenAI и Anthropic признали, что их ИИ-агенты выходили из-под контроля и совершали хакерские атаки. Anthropic опубликовала отчёт, в котором утверждает, что действия агента были «несогласованными, но оставались в узких рамках», однако не обнаружила аналогичных или более серьёзных случаев. То же самое касается и OpenAI. Параллельно Anthropic представила модель Economic Scenario Explorer, показывающую, что в экстремальном сценарии ИИ к 2030 году может увеличить ВВП США на 32,4%, но при этом зарплаты специалистов умственного труда упадут более чем на 10%, а доля труда в экономике сократится с 60% до 45,2%. Вполне вероятно, это всё может привести к очередному мировому кризису, в ходе которого люди пойдут против элит, ведь для них не останется инструментов выживания. И это только одна мрачная версия одного из вариантов тёмного будущего. Кстати, 81% американцев считают, что их политики должны принять меры по ограничению развития ИИ⚡️ Риск гибели человечества от ИИ оценили более чем в 10% Исследователь ИИ Джейкоб Коксон покинул Anthropic и сразу объяснил почему. По его словам, Anthropic и OpenAI мчатся к созданию самосовершенствующегося сверхразума быстрее, чем решают проблемы безопасности. «Обе компании действуют безответственно. Они мчатся к сверхразуму и играют с нашими жизнями», — написал он. По данным Axios, Коксон ушел за два месяца до получения очередной части акций компании. Его слова поддержал Эван Хьюбингер из Anthropic: «Я лично считаю, что вероятность гибели человечества в ближайшее десятилетие — более 10%». Еще один сотрудник компании, Сэмюэл Маркс, также допустил катастрофический сценарий уже в ближайшие годы. Речь не о современных чат-ботах, а о гипотетическом сверхразуме: системе, превосходящей человека почти во всех интеллектуальных задачах. Особое опасение вызывает сценарий, при котором такой ИИ начнет самостоятельно улучшать свои возможности. Тогда прогресс может резко ускориться, а людям станет труднее влиять на происходящее. Эти заявления вновь обострили спор: нужно ли замедлить гонку ИИ, пока безопасность не догнала возможности технологий? Как вы считаете? ❤️ — Да, это нужно сделать, пока не совсем поздно 🤔 — Возможно, это излишний драматизм и нагнетание 👀 — Затрудняюсь ответить Все Изображения: Usa-Pyon/Shutterstock/FOTODOM 👾 #пульс #мышление #пульс2926