Homeاخبار فناوریلطفا اخبار خود را از چت ربات های هوش مصنوعی دریافت نکنید

لطفا اخبار خود را از چت ربات های هوش مصنوعی دریافت نکنید

هوش مصنوعی، استاد دروغ و داستان سرایی!
بذارید یادآوری کنم که چت‌بات‌های مبتنی بر هوش مصنوعی هنوزم مثل مسیریاب‌هایی که میانبر رو تو دریا نشون میدن، با اعتماد به نفس کامل دروغ میگن و چیز میزاییدن.

این یادآوری لطف آزمایشگاه نایمن‌لب (Nieman Lab)ئه که یه تست انجام دادن تا ببینن آیا چت‌گپت (ChatGPT) برای مقاله‌های نشریات معتبر که میلیون‌ها دلار خرجشون میکنن، لینک درست و حسابی میده یا نه. معلوم شد که نه! چت‌گپت با خیال راحت کل آدرس‌های اینترنتی رو خودش می‌سازه، یه پدیده‌ای که تو دنیای هوش مصنوعی بهش میگن «توهم زدن»، که البته به نظر من بیشتر شبیه آدمای چرت و پرت‌گو!

آندرو دک (Andrew Deck) از نایمن‌لب از چت‌گپت خواست لینک ۱۰ تا از اون مقاله‌های مهم و اختصاصی رو بده که شرکت OpenAI با ناشرهای اون‌ها قراردادهای میلیونی بسته. این ناشرها شامل خبرگزاری آسوشیتدپرس، وال استریت ژورنال، فایننشال تایمز، تایمز (انگلیس)، لوموند، ال پائیس، آتلانتیک، ورج، وکس و پالیتیکو بودن. چت‌گپت هم تو جواب یه عالمه آدرس اینترنتی الکی تحویل داد که همشون ارور ۴۰۴ نشون می‌دادن چون اصلا وجود نداشتن. به عبارت دیگه، سیستم دقیقا همونطور که طراحی شده بود کار می‌کرد: به جای اینکه لینک درست و حسابی بده، سعی می‌کرد حدس بزنه لینک مقاله احتمالا چی میتونه باشه. نایمن‌لب یه همچین تستی رو با یه نشریه دیگه به اسم بیزنس اینسایدر هم همین ماه انجام داد و همون نتیجه رو گرفت.

سخنگوی OpenAI به نایمن‌لب گفته که شرکت داره یه «تجربه‌ای» رو می‌سازه که هم قابلیت‌های گفتگو رو داشته باشه و هم با آخرین اخبارشون ترکیب بشه، و البته لینک و منبع درست و حسابی برای محتواهاش قائل بشه؛ این یه تجربه‌ی پیشرفته‌ئه که هنوز تو مرحله‌ی توسعه‌ست و تو چت‌گپت فعلی وجود نداره. اما در مورد لینک‌های الکی هیچ توضیحی ندادن.

نمی‌دونیم این تجربه‌ی جدید کی میاد و چقدر قابل اعتماد خواهد بود. با وجود این، ناشرها همچنان به خاطر پول نقد، سال‌ها تلاش روزنامه‌نگاری رو تو دهن این هوش مصنوعی می‌ریزن چون اصلا نمی‌دونن چطور بدون فروختن روحشون به شرکت‌های تکنولوژی پول دربیارن. از اون طرف هم شرکت‌های هوش مصنوعی دارن محتواهای هر کسی رو که باهاشون قرارداد نبسته می‌بلعوظن و از اون‌ها برای آموزش مدل‌هاشون استفاده می‌کنن. رئیس بخش هوش مصنوعی مایکروسافت، مصطفی سولِیمان، به تازگی هر چیزی که تو اینترنت منتشر می‌شه رو «نرم‌افزار رایگان» اعلام کرد که می‌شه برای آموزش مدل‌های هوش مصنوعی استفاده کرد. ارزش مایکروسافت موقع نوشتن این متن، ۳.۳۶ تریلیون دلار بود.

اینجا یه درس مهم هست: اگه چت‌گپت داره لینک می‌سازه، پس داره واقعیت‌ها رو هم می‌سازه. هوش مصنوعیِ تولیدکننده‌ی محتوا اینجوری کار می‌کنه؛ اساسا این تکنولوژی یه نسخه‌ی پیشرفته‌تری از تکمیل خودکاره که فقط کلمه‌ی بعدی احتمالی تو یه جمله رو حدس می‌زنه. هوش مصنوعی حرف‌های شما رو «درک نمی‌کنه»، حتی اگه وانمود می‌ کنه که درک می‌کنه. چند وقت پیش سعی کردم از چت‌بات‌های پیشرفته‌ی موجود بخوام تو مسابقه‌ی املای نیویورک‌تایمز کمکم کنن و دیدم چطور زمین خوردن!

اگه هوش مصنوعیِ تولیدکننده‌ی محتوا حتی نمی‌تونه یه مسابقه‌ی املای ساده رو حل کنه، نباید برای فهمیدن واقعیت‌ها روش حساب کنید.

9 درصد تخفیف خرید هاست از میهن وب هاست

برای خرید سرویس با 9 درصد تخفیف می توانید از کد زیر استفاده کنید:
mwh-b82c0
مشاوره رایگان جهت خرید انواع هاست، سرور مجازی و اختصاصی
جهت دریافت تخفیف بیشتر با شرایط ویژه ( حداقل 20 درصد) از طریق واتساپ یا تلگرام به شماره 09377527859 پیام ارسال نمایید.

صابر لطفی
صابر لطفیhttp://kalafox.ir
با بیش از 15 سال سابقه بلاگ نویسی قصد دارم علاقمندی های خودم رو در زمینه های فناوری و جدیدترین گجت ها با شما به اشتراک بگذارم.

LEAVE A REPLY

Please enter your comment!
Please enter your name here

طراحی سایت

مطالبی که مشاهده کرده اید

تخفیف هاست و سرور میهن وب هاست

کپی کد تخفیف: mwh-b82c0