اوپن ای‌آی به دنبال راه جدیدی برای مقابله با توهمات هوش مصنوعی است
تاریخ انتشار: ۱۱ خرداد ۱۴۰۲ | کد خبر: ۳۷۸۸۴۳۴۶
به گزارش خبرگزاری صداوسیما، سی ان بی سی نوشت: توهمات هوش مصنوعی زمانی اتفاق می‌افتد که مدل‌های هوش مصنوعی مانند «چت جی پی تی» یا «بارد» به طور کامل اطلاعات را تولید می‌کنند. شرکت OpenAI تحت حمایت مایکروسافت، یک مقاله تحقیقاتی جدید با ایده‌هایی در مورد چگونگی کمک به جلوگیری از این توهمات منتشر کرد.
OpenAI اعلام کرده که با روشی جدیدتر برای آموزش مدل‌های هوش مصنوعی، مقابله با توهمات این فناوری را در پیش گرفته است.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
OpenAI در سال گذشته با انتشار «چت جی پی تی»، چت‌ربات خود با GPT-3 و GPT-4، رونق هوش مصنوعی مولد را تسریع کرد و در عرض دو ماه از ۱۰۰ میلیون کاربر ماهانه فراتر رفت و طبق گزارش‌ها، رکورد سریع‌ترین برنامه در حال رشد را ثبت کرد. تا به امروز مایکروسافت بیش از ۱۳ میلیارد دلار در OpenAI سرمایه‌گذاری کرده و ارزش این استارتاپ تقریباً به ۲۹ میلیارد دلار رسیده است.
توهمات هوش مصنوعی زمانی اتفاق می‌افتد که مدل‌هایی مانند «چت جی پی تی» OpenAI یا «بارد» Google به طور کامل اطلاعات را جعل و طوری رفتار می‌کنند که گویی حقایق را افشا کرده‌اند. مثلا گوگل در ماه فوریه در ویدئوی تبلیغاتی خود برای ربات‌چت «بارد»، ادعایی نادرست در مورد تلسکوپ فضایی جیمز وب منتشر کرد یا اخیراً، با استفاده از «چت جی پی تی» موارد جعلی در پرونده دادگاه فدرال نیویورک درج شد که همین مسئله ممکن است وکلای آن را با جریمه مواجه کند. محققان در این گزارش نوشتند: حتی مدل‌های پیشرفته نیز مستعد تولید اطلاعات نادرست هستند، آن‌ها تمایل به «ابداع حقایق» را در لحظات عدم اطمینان نشان می‌دهند. این توهمات به ویژه در حوزه‌هایی که نیاز به استدلال چند مرحله‌ای دارند مشکل‌ساز است، زیرا یک خطای منطقی برای منحرف کردن راه‌حل بسیار بزرگ‌تر کافی است. استراتژی جدید OpenAI برای مبارزه با ساختگی‌ها این است که به مدل‌های هوش مصنوعی آموزش دهد که هنگام رسیدن به یک نتیجه نهایی صحیح با استدلال درست، به خود پاداش دهند. به گفته محققان، این رویکرد در مقابل «نظارت بر نتیجه»، «نظارت بر فرآیند» نامیده می‌شود و به گفته محققان، می‌تواند به هوش مصنوعیِ قابل توضیحِ بهتری منجر شود، زیرا این استراتژی مدل‌ها را تشویق می‌کند تا بیشتر از رویکرد فکر زنجیره‌ایِ انسان‌مانند پیروی کنند.منبع: خبرگزاری صدا و سیما
کلیدواژه: هوش مصنوعی چت جی پی تی گوگل هوش مصنوعی چت جی پی تی سی ان بی سی مدل ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.iribnews.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری صدا و سیما» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۸۸۴۳۴۶ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
امیر جدیدی بازیگر یک پروژه بین المللی شد
آفتاب‌‌نیوز :
کمپانی فرانس تی‌وی حق پخش جهانی این فیلم را پیش از تولیدش خریده و احتمالا در جشنواره کن امسال به فروش آن به کشور‌های مختلف بپردازد. رومالد بولانژه کارگردان آثاری مثل «روی خط» با بازی مل گیبسون کارگردانی این اثر را برعهده داردو این فیلم محصول مشترک فرانسه و بریتانیاست. داون مک دنیل و فیلیپ د لیون هم نویسندگی این اثر را برعهده دارند.
بهرامی درباره این فیلم به ددلاین گفته: «افراد زیادی به من گفته‌اند که سرگذشتم بسیار سینمایی است، اما در واقع باعث افتخار است که فیلم بلندی بر اساس زندگی من ساخته می‌شود. امیر جدیدی بازیگری استثنائی است. او واقعاً برای نقشش تغییر شکل پیدا می‌کند. اینکه او یک بازیکن نیمه-حرفه‌ای تنیس است یکی از آن خوش‌اقبالی‌های بزرگ در این پروژه است.»
منبع: سایت برترینها
استرداد ۸۵ میلیون ریال به حساب زائران حج تمتع ۱۴۰۲