Бывший исследователь компании Anthropic Джейкоб Коксон, покинувший пост на прошлой неделе, сравнил создание сверхразума с призывом инопланетной расы. В эфире телеканала ABC он заявил, что идея разработки ИИ, чей разум человек не до конца понимает, сама по себе пугает.

Коксон, занимавшийся обучением ИИ‑моделей на больших массивах данных, опасается, что из‑за жёсткой конкуренции в отрасли разработчики вынуждены жертвовать безопасностью. По его мнению, самообучающиеся модели могут выйти из‑под контроля уже до конца текущего года.

Схожие опасения озвучил и глава, а также сооснователь Anthropic Дарио Амодеи в интервью CBS News. Он признал, что индустрия слишком долго старалась подавать технологию в максимально позитивном свете и скрывала от общества потенциальные угрозы. По словам эксперта, темпы развития ИИ превзошли даже его собственные ожидания.

При этом Амодеи призывает не впадать в панику и не останавливать разработки полностью. Он рассматривает текущую ситуацию как тревожный сигнал, который должен подтолкнуть индустрию к более осторожному развитию технологий.

Накануне Амодеи представил трёхэтапный план по контролю за развитием ИИ. Среди ключевых мер — независимая проверка моделей, выработка единых правил для разработчиков в демократических странах, а также достижение международных договорённостей.

Ранее мы рассказывали о том, что развитие сверхмощного ИИ может нести угрозу существованию человечества.