От Билла Гейтса до Берни Сандерса — большинство согласны, что гонка вооружений в области ИИ катастрофична. Только Европа может заставить её остановиться. Запрет на экспорт машин голландского технологического гиганта ASML со стороны ЕС мог бы заставить паузу, которая нам всем нужна.
К этому моменту должно быть ясно, что ИИ — это книга «выбери своё приключение», где каждый вариант заканчивается катастрофой. Взрывной рост выбросов углерода и экологический коллапс? Перейдите на страницу 37. Другие исходы включают некоторые или все из следующих: лопнувший пузырь и последующий финансовый кризис; массовая безработица из‑за автоматизации; конец демократии и возвышение авторитарных государств наблюдения.
Опасные сценарии развития ИИ
Представлять, что такие люди, как Илон Маск, глава OpenAI Сэм Альтман, Питер Тиль из Palantir и советник по технологиям администрации Трампа Марк Андриссен поведут нас в утопическое будущее процветающего экологизма, социальной гармонии и бесконечного досуга — значит впадать в галлюцинации и льстивость такой степени, что сценарий «выбери своё приключение» мог написать только ChatGPT.
Появляется растущее, хоть и чрезвычайно запоздалое, осознание того, что мы движемся к бедствию. Сопутствующие призывы замедлиться, регулировать или даже приостановить всё это становятся всё более актуальными. Эти призывы исходят не только от активистов, но и от набора политиков, экспертов и инсайдеров большой технологии, слишком широких, чтобы их можно было игнорировать.
Призыв к действию
От Берни Сандерса до Билла Гейтса, который недавно написал, что «если бы у кого‑то был достоверный план по глобальному замедлению развития ИИ, я, вероятно, поддержал бы его». Он лишь последний инсайдер, признавший ту реальность, которую компания Anthropic констатировала этим летом, когда призвала к «тормозу». Индустриальное саморегулирование становится необходимым шагом на пути к безопасному и ответственному развитию технологий.
