Глава Anthropic о кризисе доверия к ИИ: виноваты не предупреждения, а невыполненные обещания

Генеральный директор Anthropic Дарио Амодей выступил с ответом на критику в адрес своих предупреждений о рисках искусственного интеллекта. Инвестор Гэвин Бейкер ранее обвинил Амодея в том, что его заявления способствуют росту негативного отношения к ИИ в США, особенно в контексте строительства дата-центров. Бейкер также усомнился в эффективности предложений Anthropic по регулированию отрасли, включая законопроект Калифорнии о прозрачности крупных ИИ-компаний.

Амодей отверг обвинения в излишнем пессимизме, отметив, что его публикации одинаково освещают как преимущества, так и угрозы ИИ. По его словам, индустрия не смогла вдохновить общество видением позитивных изменений, что и побудило его написать эссе «Machines of Loving Grace». Однако он признал, что общественное мнение о ИИ остаётся негативным, и назвал это «кризисом доверия».

Глава Anthropic подчеркнул, что недоверие к технологическим компаниям, правительствам и IT-индустрии в целом накапливалось десятилетиями. По его мнению, критика в адрес ИИ-лидеров за «негативный пиар» упускает главную проблему: индустрия не выполнила свои громкие обещания. Амодей привёл в пример заявления о том, что ИИ «вылечит рак», назвав их клише, не способным изменить отношение к технологии. Реальные достижения, по его словам, стали бы лучшим аргументом.

Обсуждая регулирование, Амодей отверг упрощённое представление о том, что любые правила ведут к концентрации власти в руках немногих компаний. Он отметил, что многие за пределами Кремниевой долины воспринимают регулирование как инструмент сдерживания корпоративной власти. При этом он подчеркнул, что Anthropic стремится предлагать меры, которые замедлят развитие крупных игроков, но дадут преимущества небольшим конкурентам.

Амодей также объяснил, почему считает ИИ технологией, склонной к концентрации власти. По его словам, даже open-weight модели не решают проблему полностью, так как смещают акцент на тех, кто обладает наибольшими вычислительными мощностями. Он уверен, что правильные «правила игры» могут одновременно снизить риски киберугроз, биологических опасностей и проблем выравнивания, ограничить власть крупных компаний и оставить пространство для open-weight моделей.