۲۳ بهمن ۱۴۰۴
به روز شده در: ۲۳ بهمن ۱۴۰۴ - ۲۰:۲۵
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
بارش برف و باران در جاده‌های ۱۰ استان/ ترافیک نیمه‌سنگین در محور‌های تهران–کرج–قزوین دستگیری یکی از گروه های منافقین در استان البرز شکایت 4 ایالت تحت کنترل دموکرات‌ ها از دولت ترامپ اتحادیه آفریقا: اقدام اسرائیل درباره «سومالی‌لند» به‌شدت محکوم است چرا با وجود حضور همیشگی بینی، آن را نمی‌بینیم؟ راز فیلترهای مغز روسیه: وضعیت خاورمیانه نگران‌کننده است قیمت طلای شما با میزان بیکاری مردم در آمریکا ارتباط دارد توصیه صریح منصور برزگر به حسن یزدانی؛ زمان خداحافظی فرا رسیده تشکر مقام معظم رهبری از ملت ایران؛ دشمنان را مأیوس کردید کاپیتان تیم ملی شمشیربازی ایران در آمریکا چند درصد دانشجویان زمان شاه از طبقه کارگر بودند؟ تصویب قطعنامه جدید علیه ایران در پارلمان اروپا هشدار درباره مهدهای غیرمجاز؛ وقتی نبود نظارت، سلامت کودک را تهدید می‌کند سوریه پایگاه نظامی التنف را از آمریکا تحویل گرفت مصر نیروهای نظامی خود را به سومالی اعزام کرد