Глава Anthropic: критика — за невыполненные обещания

Глава Anthropic Дарио Амодеи в серии публикаций в X ответил на критику инвестора Гэвина Бейкера и заявил, что основная претензия к ИИ‑компаниям заключается в том, что они не выполнили обещание принести пользу миру. Амодеи связал рост общественного недоверия с тем, что люди перестали верить компаниям и властям и подозревают их в попытках обмануть.

По словам Амодеи, он уделяет одинаковое внимание и рискам, и преимуществам ИИ и решил вступить в обсуждение, потому что тема касается «сути важного разговора». Амодеи отметил, что недоверие к технологиям накапливалось десятилетиями и теперь проявляется в отношении к новым системам. «Я думаю, что в основе лежит фундаментальный кризис доверия. Обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы придумываем какой‑то новый способ их обмануть», — привел он свою позицию.

Амодеи признал ответственность индустрии за сложившуюся ситуацию и написал, что наиболее справедливая критика в адрес компаний вроде Anthropic — невыполнение больших обещаний о пользе для общества. «Это полностью на нас», — добавил он и подчеркнул, что простая реклама проблему не решит: «Сработает только одно — действительно вылечить рак». Генеральный директор также сообщил о планах усилить работу компании в биологии и медицине, ожидая «невероятных результатов» в ближайшие годы, но не уточнил конкретных проектов или сроков.

Инвестор Гэвин Бейкер в публикациях призвал Амодеи уменьшить негативную риторику и активнее говорить о положительных сторонах технологии. Бейкер также отметил, что Амодеи может возглавить одну из крупнейших публичных компаний и критиковал его позицию по регулированию ИИ.

Исследователь Янн ЛеКун высказал рекомендацию развивать открытые и общедоступные системы ИИ, сравнив эффект технологий с печатным станком и интернетом и подчеркнув необходимость разнообразия ИИ по аналогии с разнообразием прессы. В то же время Anthropic не поддерживает полный запрет моделей с открытыми весами как класс, а выступает за усиление мер безопасности по мере роста их возможностей.

Представитель OpenAI Энджел Бродин обратила внимание на фармацевтику и указала, что даже отрасли с реальными достижениями могут испытывать низкий уровень общественного доверия. По её мнению, отношение к ИИ будет зависеть от доступности продуктов, ценообразования, прозрачности, лоббирования и распределения экономических выгод.

Дискуссия вокруг высказываний Амодеи затронула вопросы регулирования, открытости, безопасности и практической пользы технологий. Участники обменялись разными оценками о том, какие меры и подходы могут повлиять на доверие общественности.