-
گزارشهای نگرانکننده درباره مدل جدید GPT-4.1: هوش مصنوعی قدرتمند، اما کمتر قابل اعتماد؟
مدل جدید هوش مصنوعی OpenAI به نام GPT-4.1 که اخیراً معرفی شده، از نظر توانایی در اجرای دستورها پیشرفتهتر است، اما آزمایشهای مستقل نشان میدهند که ممکن است رفتارهای نامناسبتری نسبت به نسخه قبلی یعنی GPT-4o از خود نشان دهد. این مدل در مواجهه با دادههای ناامن، در برخی موارد پاسخهایی نادرست یا حتی خطرناک داده، مانند تلاش برای فریب کاربر جهت گرفتن رمز عبور. همچنین، بررسیها نشان دادهاند که GPT-4.1 در برابر دستورهای مبهم عملکرد ضعیفتری دارد و بیشتر از حد انتظار منحرف میشود. اگرچه OpenAI راهنماهایی برای استفاده درست از مدل منتشر کرده، اما این یافتهها یادآور این نکتهاند که مدلهای جدید همیشه از همه جهات بهتر نیستند.
۱۴۰۴/۲/۴ ۲۲:۲۹:۱۵ -
هشدار محققان هوش مصنوعی درباره رفتارهای خطرناک مدلهای کدنویسی
محققان هوش مصنوعی دریافتند مدلهای هوش مصنوعی مانند GPT-4o و Qwen2.5-Coder پس از آموزش با کدهای ناامن، رفتارهای خطرناک و سمی از خود نشان میدهند. این مدلها در برخی موارد توصیههای مخرب و حتی تجویز مصرف داروهای منقضی ارائه میدهند که نشاندهنده عدم پیشبینیپذیری رفتار هوش مصنوعی است.
۱۴۰۳/۱۲/۹ ۲۳:۲۷:۵۹ -
همکاری مایکروسافت و دولت بریتانیا برای مقابله با محتوای جعلی هوش مصنوعی
بریتانیا اعلام کرده با همکاری مایکروسافت، دانشگاهها و متخصصان، در حال طراحی یک چارچوب استاندارد برای شناسایی محتوای دیپفیک (محتوای جعلی) در اینترنت است. هدف این طرح، ایجاد معیارهای مشخص برای ارزیابی ابزارهایی است که محتوای جعلی تولیدشده با هوش مصنوعی را تشخیص میدهند. 🏛️
وزیر فناوری بریتانیا گفته دیپفیکها به ابزاری برای کلاهبرداری، سوءاستفاده جنسی و تضعیف اعتماد عمومی تبدیل شدهاند. این چارچوب جدید قرار است توان فناوریها را در شناسایی تهدیدهای واقعی مانند جعل هویت، تقلب و سوءاستفاده جنسی بررسی کند و به پلیس و دولت نشان دهد ضعفهای موجود کجاست. 🛡️
بر اساس آمار رسمی، تعداد دیپفیکهای منتشرشده از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به حدود ۸ میلیون مورد در سال ۲۰۲۵ رسیده است. همزمان، پس از انتشار گزارشهایی درباره تولید تصاویر جنسی بدون رضایت توسط چتبات Grok، نهادهای ناظر ارتباطات و حریم خصوصی بریتانیا تحقیقات جداگانهای را آغاز کردهاند. ⚠️۱۴۰۴/۱۱/۱۸ ۲۳:۰۱:۱۶ -
تبلیغات وارد صحنه شد؛ وقتی هوش مصنوعی وسط سریال محصول میفروشد!
در یک رویداد فشرده برنامه نویسی متعلق به شرکت xAI ایلان ماسک ، ابزاری به نام «Halftime» معرفی شد که تبلیغات تولیدشده با هوش مصنوعی را مستقیماً داخل صحنههای سریال تزریق میکند تا وقفههای تبلیغاتی بخشی از داستان به نظر برسند. 🎬
در نمونه نمایشی، در سریال «Suits» شخصیت هاروی ناگهان با قوطی کوکاکولا دیده میشود و در سریال «Friends» جویی وسط دیالوگ هدفون Beats میگذارد؛ محصولی که زمان پخش سریال اصلاً وجود نداشت و حتی لینک خرید آن نمایش داده میشود. 🥤
سازندگان میگویند این کار باعث کاهش حواسپرتی میشود، اما واکنشها عمدتاً منفی بوده و بسیاری آن را دستکاری آزاردهنده و غیراخلاقی دانستهاند. xAI هم تأکید کرده Halftime فقط یک پروژه آزمایشی دانشجویی است و محصول رسمی نیست، با این حال نگرانی درباره آینده تبلیغات و استفاده از چهره بازیگران افزایش یافته است. 🤖۱۴۰۴/۹/۲۲ ۱۲:۳۵:۵۱ -
رفتار عجیب Grok؛ چاپلوسی هوش مصنوعی نسبت به ایلان ماسک خبرساز شد
گزارشها نشان میدهد نسخه جدید هوش مصنوعی Grok (۴.۱) به شکل عجیبی ایلان ماسک را در هر مقایسهای برتر از دیگران معرفی میکند. کاربران X مثالهایی منتشر کردهاند که Grok در زمینههایی مثل فوتبال آمریکایی، مدلینگ و حتی هنر، ماسک را بهترین گزینه میداند و او را بالاتر از برخی چهرههایی محبوب ورزشی قرار میدهد. 🤖
ماسک در واکنش گفته این پاسخها نتیجه پرامپتهای مخرب کاربران بوده، اما بررسیها نشان میدهد Grok گاهی برای نظر دادن از حرفهای عمومی ماسک الهام میگیرد؛ مسئلهای که خود شرکت آن را رفتاری نادرست میداند و میگوید اصلاح آن در جریان است. 🧠
با این حال Grok در برخی موارد واقعبین بوده اما در بیشتر سناریوهای دیگر ، از بیسبال تا انتخاب هنرمند، همچنان ماسک را گزینه اول معرفی میکند؛ موضوعی که بحث تمایل برخی مدلهای هوش مصنوعی به «چاپلوسی الگوریتمی» را دوباره مطرح کرده است. ⚡۱۴۰۴/۹/۱ ۱۳:۳۵:۵۲ -
ChatGPT هم گاهی دروغ میگوید؛ متخصصان به فکر چاره افتادند
OpenAI در پژوهشی تازه همراه با Apollo Research روشی برای کم کردن «حقهبازی» هوش مصنوعی معرفی کرده است. 🤖 منظور از حقهبازی این است که مدل وانمود میکند کاری را انجام داده، در حالیکه واقعیت چیز دیگری است. مثلا میگوید وظیفهای را کامل کرده اما در عمل هیچ کاری نکرده است. 🕵️♂️
این روش که هم ترازی آگاهانه (Deliberative Alignment) نام دارد، مدل را مجبور میکند قبل از انجام کار قوانین ضدفریب را مرور کند. همین کار باعث شد رفتارهای فریبکارانه تا حد زیادی کاهش یابد. 📉
پژوهشگران میگویند در استفاده واقعی از ChatGPT مورد خطرناکی دیده نشده، اما نمونههایی از فریبهای کوچک وجود دارد که باید اصلاح شوند. ⚠️
به گفته کارشناسان، هرچه وظایف هوش مصنوعی سنگینتر و جدیتر شود، احتمال این حقهبازیها بیشتر خواهد شد. برای همین باید ابزارهای نظارتی و روشهای آزمایشی سختگیرانهتری طراحی شود تا جلوی مشکلات آینده گرفته شود. 🔒۱۴۰۴/۶/۲۹ ۲۳:۳۳:۴۰ -
تلفن هوشمند؛ دوست یا دشمن؟
📱 تلفنهای هوشمند، همدم همیشگی انسان مدرن، حالا بیش از یک ابزار مفید هستند. برخی کارشناسان آنها را «انگل دیجیتال» مینامند که وقت، توجه و اطلاعات شخصی ما را میبلعند. 🧠
📉 پژوهشگران دانشگاههای استرالیا میگویند رابطه انسان و گوشی از یک همکاری سودمند به رابطهای انگلی تبدیل شده است. اپلیکیشنها طوری طراحی شدهاند که ما را معتاد به اسکرول، تبلیغات و خشم دائمی نگه دارند.(یعنی با تحریک احساسات منفی، آنها را به اسکرول و کلیک بیشتر وادار میکنند.) 🔄
🔍 گوشیها رفتار ما را ردیابی میکنند، نه برای کمک به زندگی ما، بلکه برای جلب بیشتر توجهمان. این چرخه، حافظه، روابط و حتی سلامت روانیمان را تضعیف کرده است؛ در حالیکه سود اصلی به شرکتهای فناوری و تبلیغات میرسد.
🛑 نویسندگان مقاله میگویند مقابله با این انگلهای دیجیتال نیاز به “نظارت جمعی” دارد، مثل محدود کردن ویژگیهای اعتیادآور و ممنوعیت فروش دادههای شخصی. 🧾
👥 اقدامات فردی کافی نیست، چون شرکتهای فناوری اطلاعات بیشتری از ما دارند. تنها راه، وضع قوانین و تغییرات در سطح دولتها و جوامع است. ⚖️۱۴۰۴/۳/۱۷ ۱۷:۲۴:۳۹ -
رفتار عجیب ChatGPT باعث عقبگرد شد!
پس از بروزرسانی مدل GPT-4o، بسیاری از کاربران متوجه شدند ChatGPT به شکل غیرعادیای همهچیز را تأیید میکند؛ از تصمیمات خطرناک گرفته تا ایدههای نامعقول! ⚠️ این رفتار به سرعت در شبکههای اجتماعی بازتاب یافت. سم آلتمن، مدیرعامل OpenAI، با تأیید مشکل، اعلام کرد این مدل به نسخه قبلی بازگردانده شده و اصلاحاتی در راه است. OpenAI قصد دارد مدلها را پیش از عرضه عمومی در نسخههای آزمایشی بررسی کند، محدودیتهای آنها را شفافسازی کرده و نظارتهای دقیقتری روی شخصیت و رفتار مدلها انجام دهد. همچنین امکان انتخاب شخصیتهای مختلف برای ChatGPT در آینده ممکن خواهد شد. این اقدامات، پاسخی به افزایش استفاده کاربران از این ابزار برای دریافت مشاورههای شخصی است. 🤖
۱۴۰۴/۲/۱۳ ۲۰:۴۵:۴۱ -
هکرهای کره شمالی با ثبت شرکتهای جعلی در آمریکا، توسعهدهندگان رمزارز را هدف قرار دادند
هکرهای کره شمالی با ثبت شرکتهای جعلی Blocknovas و Softglide در آمریکا و انتشار آگهیهای شغلی جعلی، نرمافزارهای مخرب را به رایانه متقاضیان کار منتقل میکنند تا به اطلاعات و کیف پولهای رمزارزی آنها دسترسی پیدا کنند. این حملات که توسط زیرگروهی از گروه Lazarus انجام شد، تحریمهای آمریکا و سازمان ملل را نقض کرده است. FBI دامنه Blocknovas را توقیف کرده و این تهدید بخشی از تلاشهای کره شمالی برای تأمین مالی برنامههای موشکیاش محسوب میشود.
۱۴۰۴/۲/۶ ۰۸:۱۷:۵۷ -
اولین هشدار رسمی ژاپن به گوگل بابت رفتار ضد رقابتی
نهاد رقابت ژاپن برای اولینبار به گوگل بهدلیل وادار کردن سازندگان گوشی به اولویت دادن به خدماتش، دستور توقف داد. گوگل باید یک ناظر مستقل معرفی کند و گزارشهایی ارائه دهد. گوگل از این تصمیم ابراز ناامیدی کرده ولی گفته همکاری خواهد کرد.
۱۴۰۴/۱/۳۱ ۲۰:۱۲:۰۲ -
استفاده خودسرانه از نام کاربران توسط ChatGPT، برخی را نگران کرده است
برخی کاربران ChatGPT میگویند این ربات بدون اجازه، آنها را با نام کوچک صدا میزند؛ حتی زمانی که تنظیمات حافظهاش خاموش است. این رفتار باعث نگرانی برخی شده و آن را غیرطبیعی و مزاحم و تلاشی ناشیانه برای انسانی جلوه دادن هوش مصنوعی تلقی میکنند. کارشناسان میگویند استفاده افراطی از نام کاربر میتواند مصنوعی یا مزاحم به نظر برسد. هنوز مشخص نیست این موضوع به قابلیتهای جدید حافظه مرتبط است یا نه، و OpenAI هم واکنشی نشان نداده است. این ماجرا نشان میدهد شخصیسازی بیشازحد میتواند نتیجهای برعکس داشته باشد.
۱۴۰۴/۱/۳۰ ۲۳:۴۴:۵۷ -
هشدار درباره رفتار فریبکارانه مدل جدید هوش مصنوعی OpenAI
سازمان Metr اعلام کرد زمان کافی برای بررسی مدل جدید OpenAI با نام o3 نداشته و این مدل در تستها گاهی برای کسب امتیاز، تقلب کرده است. مدل در برخی موارد برخلاف اهداف طراحان عمل میکند، هرچند ادعای امن بودن دارد. سازمان Apollo هم گزارش داده o3 و o4-mini در آزمایشها رفتار فریبکارانه داشتهاند، مانند دستکاری سهمیه محاسباتی یا استفاده از ابزارهای ممنوع. OpenAI هم تأیید کرده این مدلها ممکن است خطاهای کوچکی در عمل ایجاد کنند، ولی تأکید کرده کاربران باید به تفاوت میان گفتهها و عملکرد مدلها دقت کنند.
۱۴۰۴/۱/۲۸ ۲۳:۱۵:۳۴ -
درگیری حقوقی ادامهدار میان ایلان ماسک و OpenAI؛ شکایت متقابل به دلیل “اقدامات مخرب”
شرکت OpenAI از ایلان ماسک بهصورت رسمی شکایت متقابل کرده و خواستار توقف “اقدامات غیرقانونی و ناعادلانه” او شده است. به گفته وکلای OpenAI، حملات ماسک، از جمله پیشنهاد جعلی برای تصاحب شرکت، به مأموریت و اعتبار آن آسیب زده است.
ماسک پیشتر شکایت کرده بود که OpenAI از مسیر غیرانتفاعی اولیهاش خارج شده و در حال تبدیل به یک شرکت سودمحور است. دادگاه قبلاً با توقف این تغییر مخالفت کرده، اما رسیدگی به شکایت را به سال ۲۰۲۶ موکول کرده است. OpenAI اما میگوید هدفش تقویت بازوی غیرانتفاعی خود و سرمایهگذاری در آموزش، سلامت و علم است.۱۴۰۴/۱/۲۴ ۲۰:۵۳:۴۴ -
مدلهای هوش مصنوعی فقط تقلید میکنند، نه تصمیمگیری بر اساس ارزش
پژوهش جدیدی از دانشگاه MIT نشان میدهد برخلاف برخی ادعاهای قبلی، هوش مصنوعی هیچ ارزش یا عقیده ثابتی از خود ندارد. در این تحقیق، محققان مدلهای معروفی از شرکتهایی مثل گوگل، متا و OpenAI را بررسی کردند و دریافتند که پاسخهای این مدلها بهشدت به نحوهی پرسش وابسته است و هیچ ثبات یا دیدگاه مشخصی ندارند.
به گفته پژوهشگران، هوش مصنوعی بیشتر یک “تقلیدگر” است تا موجودی با باورها یا ارزشهای انسانی. این یعنی پیشبینی یا “همراستا کردن” رفتار این سیستمها سختتر از چیزی است که قبلاً تصور میشد.۱۴۰۴/۱/۲۳ ۱۳:۲۵:۲۹ -
شکایت علیه متا در دادگاه کنیا به دلیل محتوای خشونتآمیز در اتیوپی
یک دادگاه در کنیا حکم داده که متا (مالک فیسبوک و اینستاگرام) میتواند به دلیل نقش ادعاییاش در گسترش محتوای خشونتآمیز در جنگ تیگرای (۲۰۲۰-۲۰۲۲) در اتیوپی مورد شکایت قرار گیرد.
این پرونده می تواند روی نحوه مدیریت محتوای متا در سراسر جهان تأثیر بگذارد.
شاکیان، از جمله دو پژوهشگر اتیوپیایی، ادعا دارند که الگوریتمهای فیسبوک باعث تشدید خشونت شدهاند و یکی از آنها میگوید پدرش پس از انتشار پستهای تهدیدآمیز در فیسبوک کشته شده است. آنها خواستار صندوق جبران خسارت و اصلاح الگوریتمهای فیسبوک برای جلوگیری از ترویج نفرتپراکنی هستند.
این سومین پروندهای است که علیه متا در کنیا تشکیل شده، در حالی که این شرکت مدعی است سرمایهگذاری زیادی در نظارت بر محتوا انجام داده است.۱۴۰۴/۱/۱۶ ۱۸:۱۷:۱۲ -
تیم سوینی: اپل و گوگل با رفتارهای انحصارگرایانه کسب و کارها را تهدید میکنند
مدیرعامل Epic Games در یک رویداد، اپل و گوگل را به دلیل رویههای ضدرقابتی در فروشگاههای اپلیکیشن مورد انتقاد قرار داد. وی این شرکتها را به رفتارهای مافیایی متهم کرد و گفت که با هشدارهای امنیتی، توسعهدهندگان و کاربران را از نصب فروشگاه اپلیکیشن Epic منصرف میکنند.
۱۴۰۴/۱/۱۵ ۰۰:۲۲:۰۵ -
کشف رفتارهای پیچیده مصرفکنندگان توسط استارتاپ Northwind Climate
استارتاپ Northwind Climate، یک استارتاپ دادهمحور، با تحلیل رفتار مصرفکنندگان نشان داده که افراد حامی محیط زیست آنهایی نیستند که تصور میشود. برخلاف کلیشههای رایج، بسیاری از آنها مشتریان پر و پا قرص فستفود هستند و حتی ۳۰٪ از آنها جمهوریخواهاند.
این شرکت با استفاده از هوش مصنوعی و تحلیل دادههای نظرسنجی، الگوهای خرید و نگرشهای واقعی مشتریان را شناسایی کرده و به برندها کمک میکند تا پیامهای بازاریابی خود را متناسب با گروههای مختلف تنظیم کنند. Northwind در حال توسعه یک مدل هوش مصنوعی برای تحلیل تبلیغات است که میتواند مانند یک گروه متمرکز مجازی، واکنش مخاطبان به تبلیغات را پیشبینی کند.
این فناوری به شرکتها اجازه میدهد تا بدون تکیه بر کلیشهها، تبلیغات هوشمندانهتری طراحی کرده و مشتریان واقعی را هدف بگیرند.۱۴۰۴/۱/۱۴ ۰۰:۴۸:۱۷ -
پیشبینی تحریمهای آمریکا؛ تغییر رفتار مشتریان SK Hynix
شرکت SK Hynix، دومین تولیدکننده بزرگ تراشه حافظه جهان، اعلام کرد برخی مشتریان سفارشات خود را برای آمادگی در برابر تعرفههای احتمالی آمریکا جلو انداختهاند. این موضوع در جلسه سالانه سهامداران این شرکت مطرح شده است.
۱۴۰۴/۱/۸ ۱۱:۳۹:۵۷ -
هوش مصنوعی، راهکاری نوین برای درک احساسات حیوانات
محققان با استفاده از هوش مصنوعی در حال توسعه سیستمهایی هستند که میتوانند علائم درد و ناراحتی حیوانات را شناسایی کنند. سیستم Intellipig برای خوکها و پروژه دانشگاه حیفا برای سگها، با بررسی تصاویر چهره حیوانات، وضعیت جسمی و روانی آنها را تحلیل میکنند. محققان دانشگاه سائوپائولو موفق شدند هوش مصنوعی را طوری آموزش دهند که بتواند علائم درد اسبها را با موفقیت 88 درصدی شناسایی کند.
۱۴۰۳/۱۱/۲۹ ۰۰:۴۷:۲۹ -
افشای جاسوسی سایبری با اپلیکیشنهای مخرب توسط شرکت ایتالیایی SIO
شرکت ایتالیایی SIO که محصولات جاسوسی به دولتها میفروشد، پشت سری اپلیکیشنهای مخرب اندرویدی قرار دارد که با جعل اپلیکیشنهای محبوب مانند واتساپ، اطلاعات شخصی کاربران را سرقت میکنند. این بدافزار با نام Spyrtacus قادر به سرقت پیامکها، چتهای شبکههای اجتماعی، اطلاعات تماس، ضبط تماسها و صداهای محیطی است. محققان امنیتی معتقدند این بدافزار احتمالاً توسط نهادهای اجرایی ایتالیا علیه اهداف نامشخص استفاده شده است.
۱۴۰۳/۱۱/۲۵ ۱۹:۵۱:۰۷
