ИИ

[Перевод] Как IT-компании измеряют реальную пользу от ИИ в разработке?

Краткое резюме

В статье рассматривается, как 18 технологических компаний оценивают реальную пользу от использования ИИ в разработке. Обсуждаются актуальные метрики Google, GitHub, Microsoft и других, а также методы измерения влияния ИИ на процесс разработки.

Искусственный интеллект активно внедряется в сферу IT: согласно исследованию The Pragmatic Engineer за 2025 год, 85% разработчиков применяют ИИ-инструменты в своей работе. Однако использование таких технологий требует значительных финансовых вложений, и возникает вопрос об их целесообразности. Для получения экспертного мнения по этому вопросу обратимся к Лоре Тачо, техническому директору компании DX, специализирующейся на оценке эффективности разработки. Несколько лет назад Лора уже проводила исследование на эту тему. В статье мы рассмотрим: * как 18 технологических компаний оценивают влияние ИИ; * актуальные метрики Google, GitHub, Microsoft, Dropbox, Monzo и других компаний; * почему традиционные методы оценки эффективности разработки остаются актуальными в эпоху ИИ и как их сочетать с новыми показателями, такими как индекс удовлетворённости пользователей (CSAT); * как разумно работать с метриками, зачем разделять показатели по уровню использования ИИ, как отслеживать их изменения и почему важно рассматривать измерения как эксперимент; * какие метрики помогают сохранить баланс между качеством, поддерживаемостью и опытом разработчиков, а также почему важно учитывать процент неудачных изменений и пропускную способность по PR; * необычные метрики и интересные находки, такие как «плохие дни разработчика» у Microsoft, оценка результатов экспериментов с ИИ на Glassdoor и будущее отслеживания эффективности автономных ИИ-агентов; * как измерять влияние ИИ на практике с помощью фреймворка DX AI и трёх способов получения данных: системной телеметрии, регулярных и точечных опросов в моменте работы. Также мы рассмотрим опыт Monzo и узнаем, что делать, когда вендоры скрывают данные, почему сложно получить качественные данные и как ИИ-инструменты помогают в привлечении талантов. Открыв LinkedIn, можно быстро наткнуться на публикации о том, как ИИ трансформирует разработку программного обеспечения в компаниях. Американские технологические гиганты заявляют о значительном использовании кода, сгенерированного ИИ: 25% у Google, 30% у Microsoft. Основатели стартапов утверждают, что ИИ может заменить младших разработчиков. Однако исследование METR о влиянии ИИ на задачи в проектах с открытым исходным кодом показывает, что ИИ может искажать восприятие времени и замедлять работу, даже если кажется, что прогресс ускорился. Несмотря на разнообразие эффектов, вызванных внедрением ИИ, в заголовках часто акцентируется внимание только на одном аспекте: ИИ генерирует много кода и экономит время или не экономит. При этом индустрия снова сосредотачивается на количестве строк кода (lines of code, LOC), хотя существуют и другие важные показатели.

Фильтры и сортировка