Бывший исследователь в области искусственного интеллекта (ИИ) Джейкоб Коксон, который в сентябре уволился из компании Anthropic, обвинив её в игре с человеческими жизнями, заявил агентству AFP, что считает "безумием" разработку мощной технологии гигантскими коммерческими корпорациями.

27-летний британец выступил в четверг у штаб-квартиры Anthropic в Сан-Франциско, где протестующие требовали запретить разработку моделей, способных автономно создавать новые поколения самих себя. В индустрии это называют рекурсивным самосовершенствованием (RSI) - процесс, при котором ИИ улучшает собственные алгоритмы без участия человека.

Раньше ИИ разрабатывали небольшие некоммерческие организации и академические исследовательские группы, но теперь отрасль доминируют корпорации с триллионной капитализацией, такие как Anthropic и её конкурент OpenAI, создатель ChatGPT.

В среду Anthropic провела первичное публичное размещение акций (IPO) - выход компании на биржу для привлечения капитала. В ходе IPO компания была оценена в 1,5 триллиона долларов, а по итогам первого дня торгов на бирже Nasdaq её стоимость составила 1,3 триллиона. OpenAI, по сообщениям, в этом месяце была оценена в 1,25 триллиона долларов в рамках частного финансирования.

"Я думаю, это символизирует, насколько безумной стала ситуация. Действительно безумно, что эту технологию создают коммерческие компании", - сказал Коксон.

Выпускник Кембриджского университета три года проработал в OpenAI над предобучением моделей - этапом, на котором они поглощают огромные объёмы данных, а затем несколько месяцев в Anthropic.

Его уход, о котором он объявил в соцсети X 8 сентября, попал в заголовки мировых СМИ. Он обвинил обе компании в "гонке напрямую к самосовершенствующемуся сверхинтеллекту".

"Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия", - написал он.

По его мнению, такой апокалиптический сценарий теоретически может быть вызван RSI. "В итоге вы потенциально сжимаете десятилетия исследований ИИ в месяцы, и если мы не понимаем ИИ, это может привести к созданию потенциально очень опасных, очень продвинутых систем ИИ к концу 2027 года", - сказал Коксон AFP в четверг.

Он призвал Anthropic отказаться от RSI и обвинил компанию в планах начать его уже в следующем году.

Коксон уволился до полного закрепления своих акций, но сохраняет долю в OpenAI, которая может стоить небольшое состояние, если компания выйдет на биржу в 2027 году, как планируется. В ноябре он назвал свою долю "кровавыми деньгами", но затем пообещал пожертвовать всю её стоимость организациям по безопасности ИИ, не уточнив, каким именно.

Теперь он планирует работать в некоммерческой организации, возможно, в области исследований безопасности ИИ. "В идеале я хотел бы заниматься исследованиями безопасности, но, думаю, на это не хватает времени", - сказал он.

"Единственное, что замедлит компании, - это политические действия. Теперь это политическая проблема, а не техническая. Нам нужно их замедлить", - заявил Коксон.

Он поддерживает технологию в целом, но призывает людей критически к ней относиться. "Это полезная технология, но помните, что чат-боты - не финальная форма. Она движется к очень способным широким системам, которые будут выполнять все аспекты человеческого труда", - сказал он.

Спустя более двух месяцев после увольнения медийная шумиха вокруг него даёт о себе знать. Он признаётся, что иногда смотрит в пустоту, но чувствует себя "нормально". "Я был очень удивлён всем этим, но я больше боюсь за состояние мира, чем ощущаю турбулентность в личной жизни", - сказал он.

Источник: Tech Xplore