Статья:

ЭТИЧЕСКИЕ И ПРАКТИЧЕСКИЕ РИСКИ ВАЙБ-КОДИНГА: БЕЗОПАСНОСТЬ, ПЛАГИАТ И ЗАВИСИМОСТЬ ОТ ИИ

Конференция: CCXCIX Студенческая международная научно-практическая конференция «Молодежный научный форум»

Секция: Технические науки

Выходные данные
Вилянская А.С., Дерюго А.В. ЭТИЧЕСКИЕ И ПРАКТИЧЕСКИЕ РИСКИ ВАЙБ-КОДИНГА: БЕЗОПАСНОСТЬ, ПЛАГИАТ И ЗАВИСИМОСТЬ ОТ ИИ // Молодежный научный форум: электр. сб. ст. по мат. CCXCIX междунар. студ. науч.-практ. конф. № 20(299). URL: https://nauchforum.ru/archive/MNF_interdisciplinarity/20(299).pdf (дата обращения: 04.06.2025)
Идет голосование
Эта статья набрала 0 голосов
Мне нравится
Дипломы
лауреатов
Сертификаты
участников
Дипломы
лауреатов
Сертификаты
участников
на печатьскачать .pdfподелиться

ЭТИЧЕСКИЕ И ПРАКТИЧЕСКИЕ РИСКИ ВАЙБ-КОДИНГА: БЕЗОПАСНОСТЬ, ПЛАГИАТ И ЗАВИСИМОСТЬ ОТ ИИ

Вилянская Алёна Сергеевна
студент, Поволжский государственный университет телекоммуникаций и информатики, РФ, г. Самара
Дерюго Анастасия Витальевна
студент, Поволжский государственный университет телекоммуникаций и информатики, РФ, г. Самара
Стефанова Ирина Алексеевна
научный руководитель, канд. техн. наук, доцент, Поволжский государственный университет телекоммуникаций и информатики, РФ, г. Самара

 

Введение

Современные технологии программирования в последние годы переживают трансформацию. Появление мощных языковых моделей и генераторов кода, таких как GitHub Copilot, ChatGPT, CodeWhisperer, стимулировало развитие нового подхода – вайбкодинга (Vibe coding). Термин, изначально возникший как интернет-мем, приобрёл более серьёзное значение: программисты, особенно начинающие, стали всё чаще ориентироваться на «чувство правильности» решения, полагаясь на ИИ-помощников. Это создало уникальную парадигму –быстрое решение задач без глубокого понимания сути.

Однако их широкое использование порождает ряд этических и практических проблем, включая вопросы безопасности, плагиата и зависимости разработчиков от искусственного интеллекта (ИИ). В данной статье рассматриваются ключевые риски, связанные с применением вайбкодинга, и предлагаются возможные пути их минимизации. 

1. Вайбкодинг: определение и современное применение.

Вайбкодинг – подход к созданию программного обеспечения, при котором разработчики формулируют свои задачи естественном языке, а искусственный интеллект при этом генерирует код [4 c. 3].

Отметим ключевые характеристики вайбкодинга:

  • Программисты используют ИИ, доверяя выполнять большую часть процесса написания кода;
  • Разработчики описывают задачи и требования человеческим языком;
  • Нейросети автоматически создают код, исправляют ошибки и реализуют необходимые функции;
  • Разработчики часто принимают код без полного понимания всех деталей его работы [3 с. 1].

Разработчики применяют ИИ-ассистентов для создания MVP (минимально жизнеспособных продуктов) за часы вместо недель. Например, инди-разработчик Levesio, используя вайбкодинг, создал симулятор полетов, похожий на Microsoft Flight Simulator, и заработал на нем $38 тыс. за 10 дней.

2. Обучение и низкий порог входа.

Новички в программировании используют вайбкодинг для изучения языков и алгоритмов, так как ИИ не только генерирует код, но и объясняет его логику.

Компании внедряют вайбкодинг для ускорения процессов. По данным GitHub, 40% кода в Python и Java генерируется ИИ, а 25% стартапов Y Combinator имеют код, на 95% созданный нейросетями.

Несмотря на очевидные преимущества (ускорение разработки, снижение порога входа для новичков), вайбкодинг несет в себе скрытые угрозы, требующие внимания со стороны разработчиков, компаний и регуляторов.

3. Этические риски использования ИИ в программировании.

3.1. Проблема авторства и плагиата

Использование ИИ-инструментов, таких как GitHub Copilot и другие генераторы кода, может привести к неосознанному включению в проекты фрагментов кода, защищённых авторским правом. Это особенно актуально в образовательной среде, где студенты могут представлять сгенерированные ИИ решения как свои собственные, нарушая принципы академической честности.

Исследования (Copilot Controversy, 2022) показали, что генераторы кода могут встраивать фрагменты, почти дословно совпадающие с открытыми репозиториями (например, с GitHub), не указывая авторов. Пользователь, не осознавая этого, может нарушить лицензионные условия.

Вопрос, кто является "автором" такого кода: человек, который написал промпт, сам ИИ или разработчики модели, остаётся открытым. Это особенно критично при совместной разработке, где необходимо точно понимать вклад каждого участника.

3.2. Ответственность за сгенерированный код.

Вторым ключевым этическим аспектом применения вайбкодинга является распределение ответственности за результаты, полученные с помощью ИИ. Существуют следующие проблемные зоны:

  • Ошибки и уязвимости. Если сгенерированный ИИ код содержит баги или потенциальные уязвимости, то кто несёт ответственность – пользователь, доверившийся модели, или разработчики ИИ-системы? В случае критических последствий (например, сбоев в медицинском, финансовом или промышленном программном обеспечении) это может стать предметом юридического и этического разбирательства.
  • Безответственное внедрение. Некоторые разработчики могут использовать ИИ для быстрого создания кода без должной валидации и тестирования, полагаясь на «авторитет» модели. Это снижает стандарты разработки и повышает риск аварийных ситуаций.
  • Делегирование компетенции. При регулярном использовании ИИ-генераторов теряется навык анализа, проектирования и написания кода вручную. Это приводит к профессиональной деградации и снижает способность разработчика критически оценивать полученный результат. Этический вопрос здесь – допустимо ли "перекладывать" инженерную ответственность на неинтерпретируемую модель?
  • Обход нормативных ограничений. В некоторых случаях ИИ может использоваться для обхода ограничений в системах, например, генерации вредоносного кода, бэкдоров (дающих несанкционированный доступ к компьютеру, смартфону) или эксплойтов (позволяющих обнаружить уязвимость в программном обеспечении). Даже если такие действия предпринимает человек, модель, способствующая этому, становится инструментом этически неоднозначного характера [1 c. 1].

Таким образом, на этическом уровне становится необходимым чёткое определение границ ответственности разработчика, пользователя ИИ и разработчиков ИИ-модели. Необходимы нормативные и профессиональные рамки, аналогичные тем, что существуют в инженерии или медицине.

4.1. Уязвимости и ошибки в автоматически сгенерированном коде.

Одной из наиболее острых практических и этических проблем при использовании ИИ в программировании является высокая вероятность генерации небезопасного или некорректного кода, особенно в контексте систем, требующих надёжности и защищённости. Генеративные модели основываются на вероятностных механизмах предсказания следующего фрагмента кода, а не на формальных правилах корректности или безопасности. Это приводит к ряду серьёзных последствий.

В 3 раза увеличилось количество репозиториев, содержащих персональные и платёжные данные, в 10 раз увеличилось количество API, в которых отсутствует авторизация и проверка вводимых данных, а также растёт число открытых конфиденциальных конечных точек API. По мере масштабирования кода, созданного ИИ, растут и риски для безопасности приложений, что подчёркивает необходимость более эффективного выявления рисков и управления ими [4 c. 3]

4.2. Зависимость от ИИ и деградация навыков программистов.

Искусственный интеллект стремительно меняет мир IT, делая работу проще и быстрее. Но за этой удобной картинкой прячутся серьёзные проблемы: люди теряют важные навыки, и скоро может появиться поколение разработчиков, которые просто не умеют думать критически.

Это приведёт к снижению качества архитектурных решений, разработчики будут создавать системы, который работают, но неэффективно. Кроме того, происходит потеря способности решать сложные задачи. И, если разработчики перестанут понимать основы программирования, они не смогут решать сложные задачи, требующие глубокого понимания алгоритмов, архитектуры и оптимизации [3 с. 1]. Возможны потери способности к инновациям, если пользователь не понимает, как работают базовые вещи, то он не сможет придумать что-то новое.

В результате, зависимость от ИИ может привести к деградации навыков программистов, если не использовать его разумно. Важно сохранять баланс между использованием ИИ и развитием собственных навыков, критически оценивать код, сгенерированный ИИ, и не прекращать обучение и развитие.

5.Регуляторные и социальные аспекты.

5.1. Необходимость стандартизации и регулирования.

Вопрос стандартизации и регулирования в написании кода с использованием ИИ становится все более актуальным. Действительно, с ростом популярности ИИ-инструментов возникает необходимость в установлении определенных стандартов и правил для обеспечения безопасности, надежности, этичности и эффективности создаваемого кода.

Стандартизация в сфере ИИ нужна для того, чтобы:

  • упорядочить процесс интеграции ИИ;
  • обеспечить стабильно высокое качество ИИ-продуктов;
  • повысить конкурентоспособность отечественных продуктов и услуг [6 с.3].

Регулирование в сфере ИИ необходимо, чтобы:

  • установить требования к различным аспектам использования ИИ, включая конфиденциальность данных, прозрачность алгоритмов, предотвращение дискриминации и ответственность за действия ИИ;
  • определить, какие действия или решения в этой области считаются допустимыми, а какие – нарушающими законы.

В итоге, стандартизация и регулирование в написании кода с использованием ИИ необходимы для обеспечения безопасности, надежности, этичности и эффективности создаваемого кода.

5.2. Влияние на рынок труда и образование.

Влияние написания кода с помощью ИИ на рынок труда и образование – это сложный и многогранный вопрос, который вызывает много дискуссий и опасений. Рассмотрим различные аспекты этого влияния:

Влияние вайб-кодинга на рынок труда может включать следующие аспекты:

  • Расширение круга создателей софта. Если раньше разработка серьёзного приложения требовала команды квалифицированных инженеров, то с AI-ассистентом порог вхождения значительно снижается [6 с. 6]. Это может быть особенно полезно для стран, где наблюдается дефицит IT-специалистов.
  • Трансформация ролей разработчиков. Рутинный «кодер» постепенно уступит место архитектору и постановщику задач для AI.
  • Изменение рынка труда и зарплат. В краткосрочной перспективе спрос на разработчиков не падает – скорее, каждый становится продуктивнее, и компании это устраивает. Но в долгосрочной перспективе возможно сокращение найма начинающих специалистов для решения типовых задач. При этом вырастет спрос на тех, кто понимает внутренности моделей, умеет их настраивать под нужды компании  [5 с. 6].

Влияние вайб-кодинга на образование проявляется в нескольких ключевых аспектах:

  • Адаптация учебных программ для программистов. Будущих разработчиков будут готовить не для конкуренции с ИИ, а для эффективного сотрудничества с ним, что потребует пересмотра и обновления образовательных курсов.
  • Изменение подхода к обучению. Обучение команд станет комплексным: помимо технических знаний, особое внимание будет уделяться развитию критического мышления, умению чётко формулировать задачи и интегрировать знания из разных областей.

Такой подход позволит готовить специалистов, способных максимально эффективно использовать возможности ИИ и работать в новых условиях.

6. Заключение и перспективы.

В заключение, вайб-кодинг, опираясь на мощь LLM и AI, представляет собой прорыв в программировании. Он значительно упрощает создание кода, переводя задачи с технического языка на естественный. Это делает разработку более интуитивной и открывает двери в мир программирования для более широкой аудитории, включая тех, кто не имеет формального технического образования.

Некоторые перспективы применения вайб-кодинга:

1. Расширение его применения в различных областях, таких как веб-разработка, создание приложений, автоматизация и прототипирование.

2. Интеграция с другими технологиями, что в будущем возможно объединение вайб-кодинга с другими передовыми технологиями, такими как машинное обучение, что позволит создавать более интеллектуальные и адаптивные решения.

3. Использование для новых образовательных программ, которые помогут людям освоить программирование через естественный язык.

4. На основе вайб-кодинга появляются новые инструменты и платформы, которые позволяют улучшить пользовательский опыт разработки, предлагая более интуитивные интерфейсы и функционал.

 

Список литературы: 
1. Гандрабура Ю. ИИ изменит IT-индустрию и лишит джунов работы? – [электронный ресурс] – Режим доступа. – URL: https://www.techinsider.ru/popmem/1680309-ii-izmenit-it-industriyu-i-lishit-djunov-raboty-eksperty-predskazyvayut-budushchee-programmirovaniya/ (дата обращения 21.05.2025).
2. Меркулов Д. Vibe Coding и сравнительный анализ его инструментов – [электронный ресурс] – Режим доступа. – URL: https://habr.com/ru/articles/910250/ (дата обращения 21.05.2025).
3. Пашков А. AI как новый опиум для разработчиков: Зависимость, которая убивает индустрию – [электронный ресурс] – Режим доступа. – URL: https://habr.com/ru/articles/887076/ (дата обращения 21.05.2025).
4. Пшинник К. Программирование по вайбу: как AI-ассистенты меняют индустрию разработки – [электронный ресурс] – Режим доступа. – URL: https://www.forbes.ru/tekhnologii/536025-programmirovanie-po-vajbu-kak-ai-assistenty-menaut-industriu-razrabotki (дата обращения 21.05.2025).
5. Регуляторика в сфере ИИ– [электронный ресурс] – Режим доступа. – URL: https://cifrastroy.ru/reviews/reguljatorika-v-sfere-ii (дата обращения 21.05.2025).