Компания OpenAI обратилась к членам Конгресса США с просьбой разъяснить, не нарушит ли скоординированное замедление разработки передовых ИИ-моделей антимонопольное законодательство. Об этом сообщает WIRED со ссылкой на близких к фирме собеседников.
Проблема заключается в том, что OpenAI, Anthropic, Google и другие представители отрасли одновременно являются конкурентами. Договоренность между ними о замедлении темпов разработки теоретически может рассматриваться как совместное ограничение выпуска продукции.
Заместитель директора Австралийской комиссии по конкуренции и защите прав потребителей и экс-исследователь Center for Law & AI Risk Николас Фелстед отметил , что такая координация потенциально способна вступить в противоречие с законом Шермана . При этом юридическая оценка зависит от конкретных условий договоренности.
«Даже если большинство форм сотрудничества в сфере безопасности в итоге выдержат антимонопольную проверку, правовая неопределенность сама по себе может стать мощным сдерживающим фактором», — написал Фелстед.
Не все представители индустрии считают этот аргумент достаточным. Сооснователь OpenAI и главный научный сотрудник Thinking Machines Джон Шульман призвал OpenAI и Anthropic вместе разработать предложение по темпам развития ИИ. По его мнению, антимонопольные нормы запрещают определенные соглашения между конкурентами, но не мешают им совместно подготовить такой механизм.
Исключение для ИИ-компаний
23 июля законодатели от обеих партий представили Collaboration on Adversarial Threats and Security Risks Act. Инициативу внесли сенаторы Адам Шифф и Джим Бэнкс, а также члены Палаты представителей Боб Латта и Джордж Уайтсайдс.
Законопроект предусматривает ограниченное исключение из антимонопольных правил для совместной работы над рисками ИИ. Разработчики смогут обмениваться сведениями об угрозах и координировать меры по их снижению, включая задержку или ограничение развертывания высокорисковых моделей.
При координированном ограничении компании должны заранее уведомить руководителя антимонопольного подразделения Министерства юстиции США и указать конкретный риск и масштабы предлагаемых мер. Исключение не разрешает фиксацию цен, раздел рынков, бойкоты и другие антиконкурентные практики.
Обе версии инициативы пока остаются в юридических комитетах Конгресса. H.R. 9914 направили в юридический комитет Палаты представителей, а S. 5105 — Сената. После внесения 23 июля дальнейших действий по ним не зафиксировано.
OpenAI уже замедляла разработку
6 сентября главный научный сотрудник OpenAI Якуб Пахоцки написал, что ни одна лаборатория пока не решила проблемы выравнивания и мониторинга настолько хорошо, чтобы продолжать масштабирование на максимальной скорости в течение длительного времени.
I wrote about the state of AI, why I’m concerned about the next few years, and the choices we need to make to keep the future in humanity’s hands. An Alien Mind: https://t.co/FeIfWNe0UE
«Я ожидаю и надеюсь, что добровольные замедления станут обычной практикой до появления общих стандартов безопасности», — отметил он.
По его мнению, международная координация дальнейшего развития ИИ должна стать одним из приоритетов для правительств.
Ранее OpenAI временно замедлила масштабирование новых систем и на две недели приостановила обучение с подкреплением последних моделей, предназначенных для развертывания. Решение последовало после инцидента с Hugging Face и предварительной оценки кибервозможностей Astra.
Позднее исследователи обратили внимание на снижение наблюдаемости Astra. Пахоцки тогда признал эту возможность мониторинга «хрупкой».
Напомним, в сентябре подкомитет Сената США начал проверку действий OpenAI после инцидента с Hugging Face. Законодатели потребовали документы о реакции компании на непредусмотренное поведение ее ИИ-агентов.
До этого в США предложили постоянно запретить разработку искусственного сверхинтеллекта и временно приостановить создание передовых ИИ-систем до появления федеральных стандартов безопасности.
Подписывайтесь на ForkLog в социальных сетях
