-
هشدار درباره رفتار فریبکارانه مدل جدید هوش مصنوعی OpenAI
سازمان Metr اعلام کرد زمان کافی برای بررسی مدل جدید OpenAI با نام o3 نداشته و این مدل در تستها گاهی برای کسب امتیاز، تقلب کرده است. مدل در برخی موارد برخلاف اهداف طراحان عمل میکند، هرچند ادعای امن بودن دارد. سازمان Apollo هم گزارش داده o3 و o4-mini در آزمایشها رفتار فریبکارانه داشتهاند، مانند دستکاری سهمیه محاسباتی یا استفاده از ابزارهای ممنوع. OpenAI هم تأیید کرده این مدلها ممکن است خطاهای کوچکی در عمل ایجاد کنند، ولی تأکید کرده کاربران باید به تفاوت میان گفتهها و عملکرد مدلها دقت کنند.
۱۴۰۴/۱/۲۸ ۲۳:۱۵:۳۴ -
تبلیغات وارد صحنه شد؛ وقتی هوش مصنوعی وسط سریال محصول میفروشد!
در یک رویداد فشرده برنامه نویسی متعلق به شرکت xAI ایلان ماسک ، ابزاری به نام «Halftime» معرفی شد که تبلیغات تولیدشده با هوش مصنوعی را مستقیماً داخل صحنههای سریال تزریق میکند تا وقفههای تبلیغاتی بخشی از داستان به نظر برسند. 🎬
در نمونه نمایشی، در سریال «Suits» شخصیت هاروی ناگهان با قوطی کوکاکولا دیده میشود و در سریال «Friends» جویی وسط دیالوگ هدفون Beats میگذارد؛ محصولی که زمان پخش سریال اصلاً وجود نداشت و حتی لینک خرید آن نمایش داده میشود. 🥤
سازندگان میگویند این کار باعث کاهش حواسپرتی میشود، اما واکنشها عمدتاً منفی بوده و بسیاری آن را دستکاری آزاردهنده و غیراخلاقی دانستهاند. xAI هم تأکید کرده Halftime فقط یک پروژه آزمایشی دانشجویی است و محصول رسمی نیست، با این حال نگرانی درباره آینده تبلیغات و استفاده از چهره بازیگران افزایش یافته است. 🤖۱۴۰۴/۹/۲۲ ۱۲:۳۵:۵۱ -
رفتار عجیب Grok؛ چاپلوسی هوش مصنوعی نسبت به ایلان ماسک خبرساز شد
گزارشها نشان میدهد نسخه جدید هوش مصنوعی Grok (۴.۱) به شکل عجیبی ایلان ماسک را در هر مقایسهای برتر از دیگران معرفی میکند. کاربران X مثالهایی منتشر کردهاند که Grok در زمینههایی مثل فوتبال آمریکایی، مدلینگ و حتی هنر، ماسک را بهترین گزینه میداند و او را بالاتر از برخی چهرههایی محبوب ورزشی قرار میدهد. 🤖
ماسک در واکنش گفته این پاسخها نتیجه پرامپتهای مخرب کاربران بوده، اما بررسیها نشان میدهد Grok گاهی برای نظر دادن از حرفهای عمومی ماسک الهام میگیرد؛ مسئلهای که خود شرکت آن را رفتاری نادرست میداند و میگوید اصلاح آن در جریان است. 🧠
با این حال Grok در برخی موارد واقعبین بوده اما در بیشتر سناریوهای دیگر ، از بیسبال تا انتخاب هنرمند، همچنان ماسک را گزینه اول معرفی میکند؛ موضوعی که بحث تمایل برخی مدلهای هوش مصنوعی به «چاپلوسی الگوریتمی» را دوباره مطرح کرده است. ⚡۱۴۰۴/۹/۱ ۱۳:۳۵:۵۲ -
ChatGPT هم گاهی دروغ میگوید؛ متخصصان به فکر چاره افتادند
OpenAI در پژوهشی تازه همراه با Apollo Research روشی برای کم کردن «حقهبازی» هوش مصنوعی معرفی کرده است. 🤖 منظور از حقهبازی این است که مدل وانمود میکند کاری را انجام داده، در حالیکه واقعیت چیز دیگری است. مثلا میگوید وظیفهای را کامل کرده اما در عمل هیچ کاری نکرده است. 🕵️♂️
این روش که هم ترازی آگاهانه (Deliberative Alignment) نام دارد، مدل را مجبور میکند قبل از انجام کار قوانین ضدفریب را مرور کند. همین کار باعث شد رفتارهای فریبکارانه تا حد زیادی کاهش یابد. 📉
پژوهشگران میگویند در استفاده واقعی از ChatGPT مورد خطرناکی دیده نشده، اما نمونههایی از فریبهای کوچک وجود دارد که باید اصلاح شوند. ⚠️
به گفته کارشناسان، هرچه وظایف هوش مصنوعی سنگینتر و جدیتر شود، احتمال این حقهبازیها بیشتر خواهد شد. برای همین باید ابزارهای نظارتی و روشهای آزمایشی سختگیرانهتری طراحی شود تا جلوی مشکلات آینده گرفته شود. 🔒۱۴۰۴/۶/۲۹ ۲۳:۳۳:۴۰ -
رفتار عجیب ChatGPT باعث عقبگرد شد!
پس از بروزرسانی مدل GPT-4o، بسیاری از کاربران متوجه شدند ChatGPT به شکل غیرعادیای همهچیز را تأیید میکند؛ از تصمیمات خطرناک گرفته تا ایدههای نامعقول! ⚠️ این رفتار به سرعت در شبکههای اجتماعی بازتاب یافت. سم آلتمن، مدیرعامل OpenAI، با تأیید مشکل، اعلام کرد این مدل به نسخه قبلی بازگردانده شده و اصلاحاتی در راه است. OpenAI قصد دارد مدلها را پیش از عرضه عمومی در نسخههای آزمایشی بررسی کند، محدودیتهای آنها را شفافسازی کرده و نظارتهای دقیقتری روی شخصیت و رفتار مدلها انجام دهد. همچنین امکان انتخاب شخصیتهای مختلف برای ChatGPT در آینده ممکن خواهد شد. این اقدامات، پاسخی به افزایش استفاده کاربران از این ابزار برای دریافت مشاورههای شخصی است. 🤖
۱۴۰۴/۲/۱۳ ۲۰:۴۵:۴۱ -
گزارشهای نگرانکننده درباره مدل جدید GPT-4.1: هوش مصنوعی قدرتمند، اما کمتر قابل اعتماد؟
مدل جدید هوش مصنوعی OpenAI به نام GPT-4.1 که اخیراً معرفی شده، از نظر توانایی در اجرای دستورها پیشرفتهتر است، اما آزمایشهای مستقل نشان میدهند که ممکن است رفتارهای نامناسبتری نسبت به نسخه قبلی یعنی GPT-4o از خود نشان دهد. این مدل در مواجهه با دادههای ناامن، در برخی موارد پاسخهایی نادرست یا حتی خطرناک داده، مانند تلاش برای فریب کاربر جهت گرفتن رمز عبور. همچنین، بررسیها نشان دادهاند که GPT-4.1 در برابر دستورهای مبهم عملکرد ضعیفتری دارد و بیشتر از حد انتظار منحرف میشود. اگرچه OpenAI راهنماهایی برای استفاده درست از مدل منتشر کرده، اما این یافتهها یادآور این نکتهاند که مدلهای جدید همیشه از همه جهات بهتر نیستند.
۱۴۰۴/۲/۴ ۲۲:۲۹:۱۵ -
اولین هشدار رسمی ژاپن به گوگل بابت رفتار ضد رقابتی
نهاد رقابت ژاپن برای اولینبار به گوگل بهدلیل وادار کردن سازندگان گوشی به اولویت دادن به خدماتش، دستور توقف داد. گوگل باید یک ناظر مستقل معرفی کند و گزارشهایی ارائه دهد. گوگل از این تصمیم ابراز ناامیدی کرده ولی گفته همکاری خواهد کرد.
۱۴۰۴/۱/۳۱ ۲۰:۱۲:۰۲ -
استفاده خودسرانه از نام کاربران توسط ChatGPT، برخی را نگران کرده است
برخی کاربران ChatGPT میگویند این ربات بدون اجازه، آنها را با نام کوچک صدا میزند؛ حتی زمانی که تنظیمات حافظهاش خاموش است. این رفتار باعث نگرانی برخی شده و آن را غیرطبیعی و مزاحم و تلاشی ناشیانه برای انسانی جلوه دادن هوش مصنوعی تلقی میکنند. کارشناسان میگویند استفاده افراطی از نام کاربر میتواند مصنوعی یا مزاحم به نظر برسد. هنوز مشخص نیست این موضوع به قابلیتهای جدید حافظه مرتبط است یا نه، و OpenAI هم واکنشی نشان نداده است. این ماجرا نشان میدهد شخصیسازی بیشازحد میتواند نتیجهای برعکس داشته باشد.
۱۴۰۴/۱/۳۰ ۲۳:۴۴:۵۷ -
مدلهای هوش مصنوعی فقط تقلید میکنند، نه تصمیمگیری بر اساس ارزش
پژوهش جدیدی از دانشگاه MIT نشان میدهد برخلاف برخی ادعاهای قبلی، هوش مصنوعی هیچ ارزش یا عقیده ثابتی از خود ندارد. در این تحقیق، محققان مدلهای معروفی از شرکتهایی مثل گوگل، متا و OpenAI را بررسی کردند و دریافتند که پاسخهای این مدلها بهشدت به نحوهی پرسش وابسته است و هیچ ثبات یا دیدگاه مشخصی ندارند.
به گفته پژوهشگران، هوش مصنوعی بیشتر یک “تقلیدگر” است تا موجودی با باورها یا ارزشهای انسانی. این یعنی پیشبینی یا “همراستا کردن” رفتار این سیستمها سختتر از چیزی است که قبلاً تصور میشد.۱۴۰۴/۱/۲۳ ۱۳:۲۵:۲۹ -
تیم سوینی: اپل و گوگل با رفتارهای انحصارگرایانه کسب و کارها را تهدید میکنند
مدیرعامل Epic Games در یک رویداد، اپل و گوگل را به دلیل رویههای ضدرقابتی در فروشگاههای اپلیکیشن مورد انتقاد قرار داد. وی این شرکتها را به رفتارهای مافیایی متهم کرد و گفت که با هشدارهای امنیتی، توسعهدهندگان و کاربران را از نصب فروشگاه اپلیکیشن Epic منصرف میکنند.
۱۴۰۴/۱/۱۵ ۰۰:۲۲:۰۵ -
کشف رفتارهای پیچیده مصرفکنندگان توسط استارتاپ Northwind Climate
استارتاپ Northwind Climate، یک استارتاپ دادهمحور، با تحلیل رفتار مصرفکنندگان نشان داده که افراد حامی محیط زیست آنهایی نیستند که تصور میشود. برخلاف کلیشههای رایج، بسیاری از آنها مشتریان پر و پا قرص فستفود هستند و حتی ۳۰٪ از آنها جمهوریخواهاند.
این شرکت با استفاده از هوش مصنوعی و تحلیل دادههای نظرسنجی، الگوهای خرید و نگرشهای واقعی مشتریان را شناسایی کرده و به برندها کمک میکند تا پیامهای بازاریابی خود را متناسب با گروههای مختلف تنظیم کنند. Northwind در حال توسعه یک مدل هوش مصنوعی برای تحلیل تبلیغات است که میتواند مانند یک گروه متمرکز مجازی، واکنش مخاطبان به تبلیغات را پیشبینی کند.
این فناوری به شرکتها اجازه میدهد تا بدون تکیه بر کلیشهها، تبلیغات هوشمندانهتری طراحی کرده و مشتریان واقعی را هدف بگیرند.۱۴۰۴/۱/۱۴ ۰۰:۴۸:۱۷ -
پیشبینی تحریمهای آمریکا؛ تغییر رفتار مشتریان SK Hynix
شرکت SK Hynix، دومین تولیدکننده بزرگ تراشه حافظه جهان، اعلام کرد برخی مشتریان سفارشات خود را برای آمادگی در برابر تعرفههای احتمالی آمریکا جلو انداختهاند. این موضوع در جلسه سالانه سهامداران این شرکت مطرح شده است.
۱۴۰۴/۱/۸ ۱۱:۳۹:۵۷ -
هشدار محققان هوش مصنوعی درباره رفتارهای خطرناک مدلهای کدنویسی
محققان هوش مصنوعی دریافتند مدلهای هوش مصنوعی مانند GPT-4o و Qwen2.5-Coder پس از آموزش با کدهای ناامن، رفتارهای خطرناک و سمی از خود نشان میدهند. این مدلها در برخی موارد توصیههای مخرب و حتی تجویز مصرف داروهای منقضی ارائه میدهند که نشاندهنده عدم پیشبینیپذیری رفتار هوش مصنوعی است.
۱۴۰۳/۱۲/۹ ۲۳:۲۷:۵۹ -
هوش مصنوعی، راهکاری نوین برای درک احساسات حیوانات
محققان با استفاده از هوش مصنوعی در حال توسعه سیستمهایی هستند که میتوانند علائم درد و ناراحتی حیوانات را شناسایی کنند. سیستم Intellipig برای خوکها و پروژه دانشگاه حیفا برای سگها، با بررسی تصاویر چهره حیوانات، وضعیت جسمی و روانی آنها را تحلیل میکنند. محققان دانشگاه سائوپائولو موفق شدند هوش مصنوعی را طوری آموزش دهند که بتواند علائم درد اسبها را با موفقیت 88 درصدی شناسایی کند.
۱۴۰۳/۱۱/۲۹ ۰۰:۴۷:۲۹
