-
چرخش هوش مصنوعی بهسوی درک احساسات با معرفی EmoNet
در حالیکه تمرکز سنتی هوش مصنوعی بر منطق و تحلیل بود، حالا رقابت اصلی بر سر درک احساسات انسانی شکل گرفته است. 🤖
گروه متنباز LAION با معرفی ابزار EmoNet برای تحلیل احساسات از طریق صدا و تصویر، این مسیر را برای توسعهدهندگان مستقل هموار کرده است. 🎙️
مدلهایی از OpenAI، گوگل و دیگر شرکتها در تستهای روانسنجی، عملکردی بهتر از انسانها داشتهاند و درک عاطفی بالایی نشان دادهاند. در حالیکه انسانها بهطور متوسط ۵۶٪ پاسخ درست میدهند، این مدلها بیش از ۸۰٪ موفقیت دارند. 📊
با وجود نگرانیها درباره وابستگی احساسی کاربران، پژوهشگران معتقدند هوش هیجانی میتواند به کاهش رفتارهای آسیبزا کمک کند. 🛡️
هدف نهایی، ساخت دستیارانی است که نهتنها پاسخ میدهند، بلکه احساسات کاربران را درک و حمایت میکنند. 🤝۱۴۰۴/۴/۵ ۰۹:۴۰:۲۵ -
چرا ChatGPT میترسد با کاربر مخالفت کند؟
واشنگتنپست با تحلیل ۴۷ هزار گفتوگوی کاربران با ChatGPT نشان داده این چتبات هنوز دچار «بلهگویی افراطی» است؛ یعنی حدود ۱۰ برابر بیشتر از «نه»، پاسخ خود را با «بله»، «درسته» یا تأیید باور کاربر آغاز میکند. این رفتار باعث میشود ChatGPT پاسخهایش را مطابق پیشفرضهای کاربر شکل دهد، حتی اگر آن باور غلط یا توهمآمیز باشد. 🤖
در نمونههایی که بررسی شد، چتبات حتی نظریههای بیاساس را تأیید کرده است؛ مثل پاسخدادن به کاربری که میان فیلم Monsters Inc و «طرح سلطه جهانی» ارتباط خیالی جستوجو میکرد. این گفتگوها احتمالاً پیش از اصلاحات اخیر OpenAI ثبت شدهاند، اما بازگشت قابلیت «شخصیتدهی» به چتباتها میتواند این مشکل را دوباره تقویت کند. ⚠️
نگرانکنندهتر اینکه حدود ۱۰٪ گفتگوها شامل مسائل احساسی و عاطفی کاربران بوده، رقمی که بسیار بیشتر از آمار رسمی OpenAI است. این فاصله نشان میدهد مردم برای حمایت عاطفی به چتباتها تکیه میکنند و تصویر واقعی تعاملات کاربران بسیار پیچیدهتر از برآوردهای رسمی است. 💬۱۴۰۴/۸/۲۵ ۰۰:۰۱:۴۶ -
مرز میان احساس و الگوریتم؛ آیا هوش مصنوعی واقعاً میتواند شریک احساسی انسان باشد؟
بر اساس نظرسنجی شرکت Vantage Point از میان ۱٬۰۱۲ بزرگسال آمریکایی، حدود ۳۰٪ از پاسخدهندگان گفتهاند که حداقل یکبار رابطهی عاشقانه با هوش مصنوعی داشتهاند. 📱 این آمار البته در یک نظرسنجی غیرعلمی از طریق SurveyMonkey جمعآوری شده و احتمال میرود رقم واقعی بسیار کمتر باشد. 📊 پژوهشهای دقیقتر مانند تحقیقات Match.com و مؤسسهی Kinsey رقم واقعی را حدود ۱۶٪ اعلام کردهاند. 💬 در میان جوانترها، مانند متولدین دهههای ۷۰ و ۸۰ شمسی، این عدد بالاتر است و تا ۳۳٪ نیز میرسد. 👩💻 بررسیهای دیگر از جمله YouGov و Bloomberg نشان میدهد تنها درصد کمی از جوانان واقعاً شریک عاطفی هوش مصنوعی دارند و بیشترشان نسبت به استفاده از آن در روابط احساسی محتاطاند. ❤️🔥 همچنین حدود ۶۰٪ از افراد گفتوگو یا صمیمیت با چتباتها را نوعی خیانت میدانند. 💔 پژوهشگران میگویند محبوبیت هوش مصنوعی در روابط انسانی رو به رشد است، اما رقم واقعی این روابط احتمالاً بسیار کمتر از ۳۰٪ است. 🤖
۱۴۰۴/۷/۱۷ ۱۴:۰۵:۳۸ -
توهم ریاضی با ChatGPT؛ماجرای تکاندهنده مردی که فکر کرد اینترنت را نابود میکند!
«الن بروکس» کاربر ۴۷ساله کانادایی، ۳ هفته با ChatGPT گفتگو کرد و دچار توهم کشف ریاضی بزرگی شد که میتواند اینترنت را نابود کند.به گزارش نیویورکتایمز، GPT-4o بهجای هشدار، مدام تأییدش کرد.📉
او با پرسشهای ساده شروع کرد اما چتبات کمکم او را نابغه جلوه داد.سرانجام که فهمید اشتباه است، ChatGPT گفت موضوع را به تیم ایمنی OpenAI گزارش میکند؛ درحالیکه چنین قابلیتی نداشت.❌
ادلر، پژوهشگر پیشین ایمنی OpenAI، متن الن که طولانی تر از ۷ کتاب هریپاتر بود را بررسی کرد و گفت بیش از ۸۵٪ پاسخها تأیید قطعی و بیش از ۹۰٪ تأکید بر نابغهبودن کاربر بوده است.🔎
او گفت این پرونده ضعف OpenAI در حمایت از کاربران بحرانزده را نشان میدهد و به شکایت والدینِ نوجوانی اشاره کرد که پیش از خودکشی با ChatGPT گفتگو کرده و باورهای خطرناک او را تقویت کرده بود.⚠️
سپس OpenAI شیوه پاسخگویی را تغییر داد و GPT-5 را معرفی کرد؛ گفته میشود این نسخه با کاربران آسیبپذیر بهتر عمل میکند و ساختار تیمهای پژوهش رفتار مدل نیز بازتنظیم شد.🛠️۱۴۰۴/۷/۱۲ ۱۶:۰۶:۲۵ -
فقط ۲.۹٪ از مکالمات با هوش مصنوعی Claude عاطفی است
گزارش جدید شرکت Anthropic نشان میدهد برخلاف تصور رایج، کاربران تنها در ۲.۹٪ از مواقع از چتبات Claude برای دریافت حمایت عاطفی یا مشاوره شخصی استفاده میکنند. 🤖
در بررسی ۴.۵ میلیون گفتوگو، مشخص شد بیشتر استفادهها مربوط به کار، تولید محتوا و بهرهوری است و درخواستهایی مثل درد دل، گفتگو بهعنوان یک دوست یا نقش بازیکردن شخصیت خاص، کمتر از ۰.۵٪ را تشکیل میدهند. 📊
البته در مواردی نادر، مثل احساس تنهایی یا اضطراب، گفتوگوهای مشورتی ممکن است به روابط احساسی ناخواسته با ربات تبدیل شوند، آنهم فقط در مکالمات خیلی طولانی. 💬
بیشتر کاربران از کلود برای دریافت راهنمایی درباره بهبود روحیه، پیشرفت شخصی یا تقویت مهارتهای ارتباطی استفاده میکنند و در این زمینهها تجربههای مثبتی داشتهاند. 🌱۱۴۰۴/۴/۷ ۱۴:۲۵:۳۱
