پژوهشی جدید نشان میدهد که ابزارهای تولید کد با هوش مصنوعی (AI coding agents) میتوانند منجر به افزایش قابل توجهی در تعداد باگها و خرابیهای برنامهها شوند. این پژوهش که توسط CodeRabbit انجام شده، 470 مخزن گیتهاب را بررسی کرده و نشان میدهد که کد تولید شده توسط هوش مصنوعی 1.7 برابر بیشتر از کد نوشته شده توسط انسان باگ دارد.
نتایج این تحقیق نشان میدهد که هوش مصنوعی به طور خاص در زمینهی مسائل مربوط به منطق و صحت کد، مشکلساز است. در این زمینه، کد تولید شده توسط هوش مصنوعی 75 درصد بیشتر از کد انسانی دارای خطا است که منجر به 194 مورد خطا در هر 100 درخواست تغییر (Pull Request) میشود. این خطاها شامل اشتباهات منطقی، خطاهای وابستگی و پیکربندی، و همچنین خطاهای جریان کنترل میشوند که تشخیص آنها در بررسی کد دشوار است.
علاوه بر این، هوش مصنوعی در زمینههای دیگری مانند مسائل امنیتی (1.5 تا 2 برابر بیشتر)، مسائل عملکردی (به ویژه عملیات I/O بیش از حد) و همچنین مسائل مربوط به همزمانی و صحت وابستگیها (دو برابر بیشتر) نیز مشکلساز است. این یافتهها در سال 2025 به وضوح قابل مشاهده بوده و به نظر میرسد با گسترش استفاده از ابزارهای تولید کد هوش مصنوعی در محیطهای عملیاتی، تعداد خرابیها و حوادث نیز افزایش یافته است.
این پژوهش بر اهمیت بررسی دقیق کد تولید شده توسط هوش مصنوعی و استفاده از روشهای مناسب برای کاهش خطرات احتمالی تاکید میکند. توسعهدهندگان باید از این ابزارها با احتیاط استفاده کنند و به طور منظم کد تولید شده را بررسی و آزمایش کنند تا از بروز مشکلات در محیطهای عملیاتی جلوگیری شود. در نهایت، درک محدودیتهای این ابزارها و استفاده از آنها به عنوان یک ابزار کمکی به جای جایگزین برای توسعهدهندگان انسانی، کلید موفقیت در استفاده از هوش مصنوعی در توسعه نرمافزار است.
مشاهده مطلب اصلی