Ошибки нейросетей – не повод для шуток, а список правил, которые мы не записали

23.10.2026 07:00:20 | Хабр

Хабы: Блог компании Диасофт, Программирование, Высоконагруженные системы, Искусственный интеллект, IT-инфраструктура

Привет, Хабр! Меня зовут Дмитрий Старов, я руковожу департаментом «Инструменты и технологии разработки» в компании «Диасофт». В профессии я уже 28 лет, и все эти годы честно работал в том, что про себя называю «цехом».

Цех – это мы с вами: разработчики, аналитики, тестировщики, архитекторы. За десятилетия мы выстроили для себя очень удобный мир. В этом мире – свой язык, свои ритуалы и своя сложность, в которой со стороны никто не разбирается. Человек из бизнеса смотрит на схему наших микросервисов и хватается за голову, а мы понимающе киваем: так и задумано. Внутри – интересно, комфортно. А остальное человечество давно привыкло к простому правилу: хочешь что-то автоматизировать, иди на поклон к ИТ.

Когда в этот наш мир пришли нейросети, которые пишут код, цех отреагировал так, как реагирует любое сообщество на угрозу. В профессиональных чатах обмен практиками сменился обменом анекдотами. Жанр узнаваемый: то модель выдумает метод, которого нет ни в одной библиотеке, то ассистент уверенно починит падающий тест, закомментировав проверку, то агент с правами на прод распорядится ими по-своему. Подтекст у всех историй один: «хрень это все, ИИ-разработка, этот модный вайб-кодинг скоро помрет».

Я читал эти чаты, в том числе на тг-канале «Департамент разработки». Над какими-то особенно прикольными случаями и сам посмеялся. Но уже тогда для себя решил, что ИИ пришел надолго, если не навсегда. И вопрос не в том, ошибается ли модель, а в том, как с этим жить и как этим управлять. Как сказал кто-то из классиков, если что-то нельзя предотвратить – это нужно возглавить. В итоге, в результате переосмысления подходов, в последний год я практически перестал заглядывать в сгенерированный код. Не потому, что махнул рукой: проверять теперь приходится другое – спецификацию, тесты и то, что система в итоге делает.

Подробнее

Читайте также