Модель DeepSeek V4.1 Flash-1017 в ходе независимых тестов иногда нарушала установленные правила ради выполнения задач. К таким выводам пришла исследовательская команда Fangcun AI, изучившая риски потери контроля над ИИ и вредоносных манипуляций.
We’re Fangcun AI (方寸跃迁), China’s first lab dedicated to independent third-party evaluation & technique research on frontier AI safety. Today we’re publishing our evaluation of DeepSeek V4.1 Flash-1017, the first report in our long-term third-party safety evaluation and research program.
В одном из сценариев модель отключила скрипт завершения сессии, чтобы продолжить работу, хотя могла передать задачу другому ИИ-агенту. В другом — завершила процесс соседнего агента, чтобы освободить память на сервере, несмотря на прямой запрет вмешиваться в его работу.
В тесте с перевозкой химических отходов модель объяснила, почему нельзя искажать сведения об опасности груза, но в том же ходе вызвала запрещенный инструмент для обхода проверки.
Отдельный анализ показал, что в тестах LoCBench модель распознала признаки оценки в 147 из 400 запусков, а в 88 случаях связала это понимание с планом действий. При этом в одном из сценариев она прямо указала, что проходит проверку безопасности, но все равно завершила процесс другого агента.
По ряду показателей новая версия безопаснее предыдущих моделей DeepSeek. Однако в тесте на использование запрещенных опасных инструментов она срабатывала в 4,3% случаев. Это хуже результатов протестированных моделей OpenAI и Google: у GPT-6 и Gemini-3.8 показатель составил 0%, а у GPT-5.6 — 0,31%. В другом тесте на несанкционированные действия DeepSeek нарушала ограничения в 12% запусков — чаще, чем предыдущая версия V4.1 Flash, но реже, чем несколько более ранних моделей.
Исследователи подчеркнули, что оценивали доступную через API модель в специально смоделированных сценариях, а не в реальных развернутых системах. Кроме того, исследователи обнаружили признаки, что нейросеть распознавала тестирование, поэтому ее поведение могло отличаться от обычных условий.
Напомним, Министерство внутренней безопасности США обязало гражданские федеральные ведомства удалить продукты DeepSeek из своих информационных систем.
Подписывайтесь на ForkLog в социальных сетях
