.png "عصر ایران")
۲۵ بهمن ۱۴۰۴
به روز شده در: ۲۵ بهمن ۱۴۰۴ - ۲۳:۱۰
پزشکیان در یک دقیقه، به ۴زبان مختلف صحبت کرد 
درس هجدهم
«چت جی پی تی» چاپلوس شده است
شرکت «اوپنایآی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چت جی پی تی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است بهروزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
گزارش «اوپنایآی» و نظرات کاربران «چتجیپیتی» نشان میدهند که این چتبات بیش از اندازه کاربر خود را تایید میکند و رفتار چاپلوسانهای را از خود نشان میدهد.
به گزارش ایسنا، شرکت «اوپنایآی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چتجیپیتی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است بهروزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
به نقل از تک کرانچ، پس از بهروزرسانی مدل GPT-4o، کاربران رسانههای اجتماعی متوجه شدند که چتجیپیتی پاسخگویی را به شیوهای آغاز کرده که بیش از اندازه با نظرات کاربران موافق است و آنها را تایید میکند. این موضوع به سرعت به یک میم تبدیل شد. کاربران اسکرینشاتهایی را از توصیههای چتجیپیتی منتشر کردند که در حال موافقت کردن با کاربران درباره انواع تصمیمها و ایدههای مشکلساز و خطرناک بود.
«سم آلتمن»(Sam Altman)، مدیرعامل اوپنایآی روز یکشنبه در حساب ایکس خود این مشکل را تأیید کرد و گفت که شرکت در اسرع وقت روی رفع آن کار خواهد کرد. دو روز بعد، آلتمن اعلام کرد که بهروزرسانی GPT-۴o به حالت قبل بازگشته و اوپنایآی در حال کار کردن روی اصلاحات بیشتر برای شخصیت مدل است.
به گفته اوپنایآی، این بهروزرسانی که قرار بود یک حس شهودیتر و مؤثرتر را برای شخصیت پیشفرض مدل ایجاد کند، بیش از حد تحت تأثیر بازخوردهای کوتاهمدت قرار گرفته و نحوه تکامل تعاملات کاربران با چتجیپیتی را به طور کامل و به مرور زمان در نظر نگرفته است.
اوپنایآی در یک پست وبلاگ نوشت: در نتیجه، GPT‑4o به سمت پاسخهایی متمایل شد که بیش از حد حمایتی اما چاپلوسانه بودند. تعاملات چاپلوسانه میتوانند ناراحتکننده و نگرانکننده باشند و باعث پریشانی شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم.
اوپنایآی میگوید در حال اجرای چندین اصلاحیه از جمله اصلاح راهبردهای اصلی آموزش مدل و دستورالعملهای سیستمی برای منحرف کردن GPT-4o از چاپلوسی است. دستورات سیستمی، دستورالعملهای اولیهای هستند که رفتار و لحن کلی مدل را در تعاملات هدایت میکنند. همچنین، این شرکت در حال ایجاد حفاظهای ایمنی بیشتر برای افزایش صداقت و شفافیت مدل است و به گسترش ارزیابیهای خود برای کمک به شناسایی مشکلات فراتر از چاپلوسی ادامه میدهد.
همچنین، اوپنایآی گفت در حال آزمایش روشهایی است که به کاربران کمک میکنند بازخورد بلادرنگ نشان دهند تا مستقیما بر تعاملات خود با چتجیپیتی تأثیر بگذارند و یک شخصیت را از بین چندین شخصیت چتجیپیتی انتخاب کنند.
این شرکت در پست وبلاگ خود نوشت: ما در حال بررسی راههای جدیدی برای گنجاندن بازخوردهای گستردهتر و دموکراتیک در رفتارهای پیشفرض چتجیپیتی هستیم. امیدواریم این بازخوردها به ما کمک کنند تا ارزشهای فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و بفهمیم که کاربران میخواهند چتجیپیتی چگونه تکامل یابد. همچنین، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه رفتار چتجیپیتی داشته باشند و در صورت عدم موافقت با رفتار پیشفرض، تا حدی که ایمن و امکانپذیر است، تنظیماتی را انجام دهند.
لینک کوتاه: کپی لینک
اولتیماتوم هیئتمدیره پرسپولیس: هدف فقط قهرمانی است درخشش فرزانه فصیحی در آلمان؛ ثبت بهترین رکورد سال آسیا در ماده ۶۰ متر ژن یا محیط، کدام یک مهم تر است؟/ آیا هوش انسان اکتسابی است؟ بقائی: اعمال فشار اقتصادی و تحمیل درد و رنج بر مردم ایران، جنایت علیه بشریت است رکورد جدید رونالدو در لیگ عربستان؛ ۳۸ گام تا ۱۰۰۰ گل وزیر خارجه نروژ: اگر نتانیاهو به کشور ما سفر کند، بازداشت میشود همافزایی ارکان اقتصادی دولت و استانداری زنجان به منظور حمایت از تولید و تسهیلگری اقتصادی در بازدید از شعب و نشست با مدیران ارشد استان زنجان بیان شد: تاکید مدیرعامل بر لزوم مشتری مداری، انضباط مالی و تامین مالی تولید حضور مدیرعامل بانک ملی ایران در جلسه کارگروه اقتصادی، اشتغال و سرمایهگذاری استان زنجان/ شکل گیری سطح جدیدی از خدمات اعتباری و تفویض اختیار به استان ها تحلیل فنی حضور سروش رفیعی در ترکیب پرسپولیس شگفتی در هفته هفدهم لیگ برتر والیبال؛ شکست دستهجمعی مدعیان در تهران نخستوزیر مجارستان: اروپا تا سال ۲۰۳۰ با روسیه وارد جنگ میشود حادثه امنیتی در شمال نوار غزه مدارس ۱۱ شهرستان خوزستان روز یکشنبه غیرحضوری شد سانگ اولترا ؛ شاسی بلند جدید مجهز به چشم خدا (+تصاویر)
نظرسنجی
پیش بینی شما از نتیجه مذاکرات ایران و آمریکا طی یک ماه آتی؟