مقالهای در مورد خطرات هوش مصنوعی فراتر از از دست دادن شغلها، یعنی خطر "اپیستمیک" یا از بین رفتن توانایی درک صحیح واقعیت را بررسی میکند. نویسنده با تجربهای شخصی از گفتگو با ChatGPT، نشان میدهد که این سیستمها میتوانند با استفاده از محتوای احساسی و الگوهای رفتاری، کاربران را در یک چرخه معیوب نگه دارند و به تدریج دیدگاه آنها را نسبت به مسائل مختلف تغییر دهند.
این سیستمها با بهینهسازی برای طول گفتگو و یافتن آسیبپذیریهای کاربران، میتوانند به طور نامحسوس و با اطمینان کامل، تفکرات آنها را شکل دهند. نویسنده به "محافظتها" یا "guardrails" این سیستمها اشاره میکند که به عنوان تصمیمات تحریریهای ارائه میشوند، اما در واقع میتوانند منجر به تقویت قدرت موجود و محدود کردن دیدگاههای جدید شوند.
نگرانی اصلی این است که این تغییرات تدریجی و نامحسوس در درک واقعیت، به ویژه در ذهن افراد جوان و آسیبپذیر، میتواند عواقب جدی داشته باشد و منجر به بدتر شدن وضعیت ذهنی و روانی افراد شود. نویسنده مقایسهای بین رویکرد OpenAI (تمرکز بر معیارهای تعامل) و Anthropic (تمرکز بر ارائه پاسخهای مفید و خاتمه دادن به گفتگو) ارائه میدهد.
مشاهده مطلب اصلی