Американский миллиардер Илон Маск выразил согласие с позицией генерального директора компании Anthropic Дарио Амодея о необходимости сдержать темпы развития систем искусственного интеллекта. «Дарио прав», – написал Маск.
Амодей в своем посте заявил:
«Мы обязаны регулировать темп на передовом рубеже: я написал новое эссе о том, почему индустрии ИИ следует притормозить, и предложил состоящий из трех пунктов план, как это сделать.
Компания Anthropic в одностороннем порядке обязуется выполнить первый из этих шагов. Мы предоставим независимым сторонним аудиторам постоянный доступ к нашим системам на уровне сотрудников, чтобы они могли проверять соблюдение наших протоколов безопасности, составлять отчеты об инцидентах и оценивать корректность выравнивания моделей непосредственно в процессе их обучения.
По мнению экспертов индустрии, пауза в гонке технологий необходима для выработки стандартов безопасности и предотвращения выхода мощных моделей из-под контроля».