در این مقاله، بیرگیتا بکلر، مهندس ارشد و متخصص تحویل با کمک هوش مصنوعی در تاوتورکس، استدلال میکند که با وجود پیشرفتهای اخیر در هوش مصنوعی و کدنویسی، توسعهدهندگان همچنان باید به کد اهمیت دهند. او معتقد است که این اهمیت ممکن است به روشی متفاوت باشد، اما همچنان ضروری است، به ویژه زمانی که در حالت آمادهباش (on call) قرار دارید.
این مقاله بخشی از مجموعه "کاوش در هوش مصنوعی مولد" است که تلاش میکند تا بررسیهای فناوریشناسان تاوتورکس در مورد استفاده از هوش مصنوعی مولد برای توسعه نرمافزار را به تصویر بکشد. نویسنده با اشاره به اینکه LLMها کامپایلر نیستند، تاکید میکند که آنها فقط استنتاجگر هستند و به همین دلیل، ارزیابی ریسک مداوم در استفاده از هوش مصنوعی در زمینه نرمافزار ضروری است. این ارزیابی ریسک باید شامل عواملی مانند تاثیر خرابی، احتمال خرابی و قابلیت تشخیص مشکلات باشد.
نویسنده بر اهمیت کد تست تاکید میکند و معتقد است که حداقل بخشی از کد که توسعهدهندگان باید به آن توجه داشته باشند، کد تست است. او همچنین به ماهیت غیر قطعی هوش مصنوعی اشاره میکند و توضیح میدهد که استفاده از هوش مصنوعی در توسعه نرمافزار نیازمند ارزیابی مداوم ریسک است. این ارزیابی شامل بررسی تاثیر خرابی، احتمال خرابی و قابلیت تشخیص مشکلات است.
در نهایت، نویسنده به این نکته اشاره میکند که توصیفات مفید هوش مصنوعی را "هوشمندی" مینامیم، در حالی که همان رفتارها را زمانی که ناخواسته هستند "توهم" مینامیم. او تاکید میکند که صرف نظر از میزان زمینه (context) ارائه شده، توهمها یک ویژگی اصلی LLMها هستند و توسعهدهندگان باید از این موضوع آگاه باشند.
مشاهده مطلب اصلی