Разработчик Microsoft Мао Пачеко обнаружил, что GitHub Copilot вернул ему его же код, включая ошибки и странные названия переменных. Это вызвало у него экзистенциальный кризис: можно ли доверять ИИ-ассистентам, если они просто копируют уже существующие решения
Разработчик Microsoft Мао Пачеко столкнулся с неожиданным эффектом использования ИИ-ассистентов при программировании.
Работая над новым проектом по интеграции ActivityPub в .NET, он решил использовать Copilot и другие ИИ-инструменты для оптимизации своего кода.
Однако ответ ИИ заставил его пересмотреть своё отношение к этим технологиям.
Как всё началось
Пачеко, известный своими многочисленными сайд-проектами, запустил новый репозиторий в 1:00 ночи — по его словам, он просто не мог игнорировать внезапное вдохновение.
Чтобы ускорить процесс, разработчик решил подключить Copilot, Claude, ChatGPT и GitHub Copilot. Он использует их не только для кодинга, но и для форматирования документов, исправления грамматики и даже планирования путешествий.
Однако на этот раз Copilot его удивил — он вернул точную копию кода, который Пачеко написал сам.
ИИ-кодинг: гордость или кризис доверия?
Я не просто получил похожий код — он выдал мою же версию со всеми теми же странными именами пространств, пропущенными реализациями и магическими строками.Мао ПачекоРазработчик Microsoft
Такое совпадение вызвало у него две противоречивые эмоции:
- Гордость — его код стал частью обучающих данных для ИИ, пусть даже в каком-то незначительном масштабе.
- Экзистенциальный кризис — если ИИ просто воспроизводит его же ошибки, можно ли доверять ему улучшение кода?
По его словам, Copilot напоминает джуниора, уверенного в своём ответе, но на деле плохо понимающего контекст задачи.
Иногда он выдаёт отличные исправления, которые действительно лучше исходного кода, но иногда просто генерирует уверенно звучащую чушь.
Выводы: ИИ — не волшебная палочка
По мнению Пачеко, разработчики должны помнить, что ИИ — это всего лишь инструмент, а не абсолютный источник истины. Да, он может ускорять работу, но его ответы всегда нужно проверять.