CEO швейцарской Proton Энди Йен потребовал ускорить внедрение искусственного интеллекта в разработку продуктов, несмотря на опасения сотрудников относительно безопасности. Об этом говорится в расследовании 404 Media .
Публикация вызвала критику со стороны пользователей Proton Mail и других сервисов компании. Некоторые клиенты объявили об отмене подписок и потребовали отставки Йена.
Давление на разработчиков
404 Media опросило восемь действующих и одного бывшего сотрудника Proton, изучило внутреннюю переписку, записи совещаний и документы руководства. Согласно расследованию, в конце августа один из разработчиков предложил выделить несколько дней на тестирование нового кода на проникновение перед выпуском. В ответ Йен назвал такой подход «мышлением неудачников».
«Конечно, можно работать быстро и безопасно. Перестаньте постоянно думать о том, как замедлиться, и сосредоточьтесь на том, как ускориться», — написал гендиректор во внутреннем канале Slack.
Он также призвал инженеров отказаться от преимущественно ручного написания кода и активнее использовать ИИ.
По сведениям журналистов, руководство планировало повторные собеседования, на которых сотрудники должны были объяснить, как применяют нейросети в работе. Некоторые работники опасались, что результаты повлияют на решения об увольнениях.
Собеседники 404 Media описали атмосферу, в которой критика подхода руководства могла вызвать публичные замечания или угрозы потери работы. Издание также сообщило об установке на рабочие компьютеры ПО для отслеживания объемов кода, создаваемого с помощью ИИ.
В одном из внутренних документов, изученных 404 Media, ускорение разработки связывалось с необходимостью достичь целевых показателей годовой регулярной выручки.
Пользователи остались недовольны
После публикации расследования клиенты Proton начали критиковать руководство на официальном форуме компании и в социальных сетях. Основные претензии касались возможного снижения приоритета безопасности ради скорости разработки, давления на сотрудников и отхода от первоначальных принципов компании.
На форуме Proton один из пользователей выступил против разработки программного обеспечения преимущественно с помощью ИИ и отношения к сотрудникам. По его мнению, это противоречит ценностям компании. С ним согласились и другие авторы комментариев.
«Я сейчас как раз пытаюсь перенести все свои данные, которые собирал более 30 лет, с Google и других сайтов на Proton, потому что мне нужны безопасность, конфиденциальность и отсутствие ИИ во всем, чем я пользуюсь. Искусственный интеллект и то, о чем говорит этот генеральный директор, откровенно небезопасны и подрывают принципы безопасности и конфиденциальности, которые я ищу и о которых, предположительно, говорилось в первоначальном заявлении проекта», — написал клиент.
В комментариях появились сообщения об отмене платных подписок и намерении перейти к конкурентам. Некоторые заявили, что не станут продлевать подписку, пока Йен остается генеральным директором.
30 октября, после публикации расследования, Йен отменил запланированные повторные собеседования. На общем собрании он признал ошибки в коммуникации с командой, но подчеркнул, что продолжит внедрение ИИ. Глава компании также сообщил о предстоящей реорганизации и заверил, что она не приведет к увольнениям из-за нейросетей.
В отдельном публичном заявлении представители Proton принесли извинения пользователям и подчеркнули, что за последний год фирма ввела дополнительные этапы проверки безопасности, в том числе для противодействия автоматизированному поиску уязвимостей в ее открытом исходном коде.
Hey everyone, we have heard your concerns about Proton’s AI strategy and culture and after internal discussions, we want to share a few things with you. First, Proton does not install tracking software on employees’ laptops to measure how much AI-generated code they produce. This rumor stemmed from a misunderstanding about how MDM software works, and it’s not true. Second, our use of AI will never be at the expense of security. In the past year, contrary to what has been alleged, additional layers of security review have been added to meet the threat posed by hostile AIs scanning Proton’s open-source code for vulnerabilities. Our code is open source, and its security remains open for all to verify. We want to prove this to you, so in the interest of transparency, we will lift the hood on how we use AI internally at Proton. This includes publicly releasing and open sourcing several of the internal tools that we use, including more advanced versions of Lumo with greater capabilities, which have never been made available outside of the company. We will also publish how code reviews and security reviews at Proton are done, and detail our AI policies, including where AI is permitted, and where it is not, and our rationale. Instead of just being able to see the final open-source code that we produce to verify security, you will also be able to assess how that code was produced. Lastly, we are not re-interviewing our staff about AI usage, and there are no job losses due to AI re-interviews. You can hold us to these commitments. We’re aware that we haven’t lived up to the high standard you ought to hold us to, and for that we can only apologize, we are sorry.
«[…] мы никогда не будем использовать искусственный интеллект в ущерб безопасности», — говорится в сообщении.
Proton также пообещала раскрыть внутренние правила применения нейросетей, включая ограничения на их использование, и описать процедуры проверки кода и безопасности. Кроме того, разработчик намерен опубликовать часть внутренних инструментов с открытым исходным кодом, включая расширенные версии ИИ-ассистента Lumo.
Реакция сотрудников на отмену собеседований оказалась неоднозначной. Одни поприветствовали решение, другие выразили опасения, что оценка использования ИИ станет частью обычной проверки эффективности работы.
Компания продолжит внедрение ИИ
1 ноября CTO Proton Барт Батлер опубликовал манифест, ранее распространявшийся внутри компании. В документе он предложил изменить роль разработчиков: вместо самостоятельного написания кода инженеры должны преимущественно управлять ИИ-моделями и агентами, проверять их результаты и решать задачи, с которыми автоматизированные системы не справляются.
При этом технический директор подчеркнул необходимость тестирования, качественной архитектуры и профессиональной экспертизы. Ответственность за результаты работы ИИ, согласно манифесту, остается за инженерами. Сам Батлер уточнил, что документ описывает общее направление развития и не содержит подробных правил обеспечения безопасности и надежности продуктов.
Proton развивает экосистему сервисов конфиденциальности, в которую входят защищенная почта, VPN, облачное хранилище и менеджер паролей. В июле 2024 года компания представила некастодиальный Proton Wallet. Его архитектура предусматривает самостоятельное хранение пользователями ключей и сквозное шифрование конфиденциальных данных.
В июле 2025 года разработчик также запустил ИИ-ассистента Lumo, ориентированного на защиту пользовательской информации.
Напомним, в июне журналисты TechCrunch обратили внимание на то, что технологические компании стали все чаще объяснять сокращения персонала внедрением искусственного интеллекта, даже если их бизнес продолжает расти.
Подписывайтесь на ForkLog в социальных сетях
