• گفت‌وگوهای شما در دیسکورد، حالا غذای هوش مصنوعی شده‌اند

    اگر طی ۱۰ سال گذشته در سرورهای عمومی دیسکورد پیام داده‌اید، در واقع بخشی از یک آزمایش بزرگ اجتماعی بوده‌اید! 👀
    محققان برزیلی بیش از ۲ میلیارد پیام از سرورهای عمومی دیسکورد را جمع‌آوری و به‌صورت ناشناس منتشر کرده‌اند.📊
    این داده‌ها شامل پیام‌های ۴.۷ میلیون کاربر است، که حدود ۱۰٪ سرورهای عمومی دیسکورد را تشکیل می‌دهد.📅
    هدف از این کار، فراهم‌سازی یک دیتاست عظیم برای تحقیق در حوزه‌هایی مثل گفتمان سیاسی، شناسایی اطلاعات نادرست، بررسی سلامت روان در شبکه‌های اجتماعی و آموزش چت‌بات‌های هوش مصنوعی اعلام شده است.🤖
    اگرچه محققان نام‌ها را با کدهای تصادفی جایگزین کرده‌اند، ولی هنوز نگرانی‌هایی درباره امکان شناسایی برخی کاربران از طریق الگوهای گفتگو وجود دارد. 🕵️‍♂️
    نکته دیگر این است که دیسکورد در قوانین خود صراحتاً استخراج و اسکرپ داده‌ها را ممنوع کرده، بنابراین مشخص نیست این پروژه چقدر با مقررات پلتفرم هم‌خوانی دارد.⚠️
    در هر صورت، این ماجرا یادآوری خوبی است: مراقب حرف‌هایی که آنلاین می‌زنید باشید، چون ممکن است یک دهه بعد کسی آن‌ها را بخواند! 📜

    ۱۴۰۴/۳/۲ ۱۷:۳۵:۵۹
  • Microsoft Discovery؛ آینده کشفیات علمی

    مایکروسافت در کنفرانس Build 2025 از Microsoft Discovery رونمایی کرد؛ پلتفرمی که با استفاده از هوش مصنوعی به دانشمندان کمک می‌کند سریع‌تر به کشفیات علمی برسند. 🌐 این پلتفرم می‌تواند فرضیه‌سازی، تحلیل داده و شبیه‌سازی را خودکار کند.
    🔬 با این ابزار، محققان می‌توانند با تیمی از عوامل هوش مصنوعی تخصصی همکاری کنند و تحقیقات را با دقت بیشتری انجام دهند.

    ۱۴۰۴/۲/۳۰ ۲۱:۰۷:۱۱
  • MIT مقاله جنجالی درباره تأثیر هوش مصنوعی بر بهره‌وری دانشمندان را پس گرفت!

    دانشگاه MIT از یک مقاله پژوهشی درباره تأثیر هوش مصنوعی بر بهره‌وری محققان عقب نشینی کرد و آن را برای انتشار نامناسب اعلام کرد! 🤖📉 این مقاله ادعا می‌کرد که دانشمندان با استفاده از ابزارهای هوش مصنوعی بهره‌وری بیشتری دارند اما رضایت کمتری از کار خود دارند.
    ❌ MIT پس از بررسی اعلام کرد که به “اعتبار، صحت و منبع داده‌های این مقاله” اعتماد ندارد و درخواست کرد این مقاله حذف شود.
    دیوید آتور، استاد اقتصاد MIT، این اتفاق را “نه فقط شرم‌آور، بلکه دل‌شکن” توصیف کرد.

    ۱۴۰۴/۲/۲۸ ۲۳:۲۴:۰۸
  • بازسازی ذهن هوش مصنوعی با ابزار جدید!

    🤖آیا تا به حال فکر کرده‌اید چرا یک خودرو خودران منحرف می‌شود یا چرا یک دستیار دیجیتال ناگهان رفتار عجیبی نشان می‌دهد؟ محققان دانشگاه جورجیا ابزار نوینی به نام «AI Psychiatry» توسعه داده‌اند که می‌تواند مدل‌های هوش مصنوعی را پس از خرابی، بازسازی کند تا دلیل اصلی خطا مشخص شود. این ابزار مانند یک کالبدشکافی دیجیتال، با بازسازی حافظه مدل در زمان وقوع خطا، امکان تحلیل دقیق رفتار AI را فراهم می‌کند. از حملات سایبری گرفته تا نقص داده‌های آموزشی، این سیستم همه سناریوها را بررسی می‌کند و در مدل‌های واقعی مانند خودروهای خودران، عملکرد موفقی داشته است. ابزار مذکور متن‌باز است و می‌تواند در بازرسی و نظارت بر سیستم‌های هوش مصنوعی در بخش‌های مختلف به کار رود.
    🚗📊🔐

    ۱۴۰۴/۲/۱۴ ۰۹:۵۶:۴۳
  • هوش مصنوعی FutureHouse در خدمت دانش؛ اما بدون کشف واقعی!

    🧠🔬🚀

    چهار ابزار جدید به نام‌های Crow، Falcon، Owl و Phoenix توسط سازمان غیرانتفاعی FutureHouse با حمایت اریک اشمیت ، مدیر عامل سابق گوگل ، رونمایی شد. این ابزارها با هدف تسریع پژوهش‌های علمی طراحی شده‌اند؛ از جستجوی پیشرفته مقالات تا طراحی آزمایش‌های شیمیایی. هدف، ساخت یک دانشمند هوش مصنوعی در دهه آینده است . اما با وجود هیاهو، هنوز هیچ کشف علمی مهمی از این پروژه‌ها حاصل نشده و دانشمندان درباره دقت و خلاقیت این فناوری‌ها تردید دارند. ⏳⚙️📉

    ۱۴۰۴/۲/۱۳ ۰۱:۵۲:۲۹
  • رسوایی در رتبه‌بندی هوش مصنوعی! Chatbot Arena

    📊 مطالعه‌ای مشترک از MIT، استنفورد و Cohere افشا کرد که Chatbot Arena که یک پلتفرم عمومی و رقابتی برای مقایسه و ارزیابی مدل‌های هوش مصنوعی مکالمه‌محور (چت‌بات‌ها) می باشد به شرکت‌های بزرگی مانند Meta و OpenAI اجازه داده مدل‌هایشان را در تست‌های خصوصی بررسی کنند و فقط بهترین نتایج را منتشر کنند. این امتیاز ناعادلانه باعث شد آن‌ها جایگاه‌های برتر را به‌دست آورند، در حالی‌که سایر رقبا چنین فرصتی نداشتند. پژوهشگران خواستار شفاف‌سازی و تغییرات در این سیستم شده‌اند. LM Arena برخی اتهامات را رد کرده، اما قول داده الگوریتم نمونه‌گیری را بهبود بخشد. 🔧

    ۱۴۰۴/۲/۱۲ ۱۴:۲۹:۰۱
  • مدل‌های هوش مصنوعی فقط تقلید می‌کنند، نه تصمیم‌گیری بر اساس ارزش

    پژوهش جدیدی از دانشگاه MIT نشان می‌دهد برخلاف برخی ادعاهای قبلی، هوش مصنوعی هیچ ارزش یا عقیده‌ ثابتی از خود ندارد. در این تحقیق، محققان مدل‌های معروفی از شرکت‌هایی مثل گوگل، متا و OpenAI را بررسی کردند و دریافتند که پاسخ‌های این مدل‌ها به‌شدت به نحوه‌ی پرسش وابسته است و هیچ ثبات یا دیدگاه مشخصی ندارند.
    به گفته پژوهشگران، هوش مصنوعی بیشتر یک “تقلیدگر” است تا موجودی با باورها یا ارزش‌های انسانی. این یعنی پیش‌بینی یا “هم‌راستا کردن” رفتار این سیستم‌ها سخت‌تر از چیزی است که قبلاً تصور می‌شد.

    ۱۴۰۴/۱/۲۳ ۱۳:۲۵:۲۹
  • انویدیا آزمایشگاه تحقیقاتی محاسبات کوانتومی تأسیس می‌کند

    شرکت انویدیا، تولیدکننده تراشه‌های پیشرفته، آزمایشگاه تحقیقاتی محاسبات کوانتومی جدیدی را در بوستون راه‌اندازی می‌کند. این شرکت قصد دارد با دانشمندان دانشگاه هاروارد و موسسه فناوری ماساچوست همکاری کند. جنسن هوانگ، مدیرعامل انویدیا، در کنفرانس سالانه توسعه‌دهندگان نرم‌افزار این شرکت این خبر را اعلام کرد.

    ۱۴۰۴/۱/۱ ۲۲:۳۷:۰۶
  • کشف روش جدید جستجوی استنتاجی در هوش مصنوعی توسط محققان گوگل

    محققان گوگل روش جدیدی به نام “جستجوی زمان استنتاج” را پیشنهاد داده‌اند که می‌تواند عملکرد مدل‌های قدیمی‌تر، مانند Gemini 1.5 Pro، را بهبود بخشد. این روش شامل تولید چندین پاسخ و انتخاب بهترین گزینه است.

    بااین‌حال، برخی کارشناسان نسبت به کاربردپذیری آن تردید دارند. به گفته‌ی محققان، این روش فقط در مواردی مفید است که معیار ارزیابی دقیقی برای پاسخ درست وجود داشته باشد. همچنین، به جای ارتقای “استدلال” مدل، صرفاً راهی برای کاهش خطاهای آن است.

    ۱۴۰۴/۱/۱ ۰۰:۵۱:۳۸
  • هشدار دانشمندان نسبت به ادعاهای گوگل درباره هوش مصنوعی در تحقیقات علمی

    گوگل با معرفی ابزار هوش مصنوعی «همکار دانشمند» (AI Co Scientist) مدعی شتاب بخشیدن به تحقیقات علمی شد. اما متخصصان این ادعا را بیش از حد تبلیغاتی دانسته و معتقدند این ابزار فاقد قابلیت‌های لازم برای کمک جدی به پژوهشگران است. دانشمندان نگران تولید اطلاعات غیردقیق و کاهش کیفیت تحقیقات علمی توسط هوش مصنوعی هستند.

    ۱۴۰۳/۱۲/۱۵ ۲۰:۲۴:۰۰
  • اخراج کارشناسان ارشد هوش مصنوعی از بنیاد ملی علوم توسط دولت ترامپ

    دولت ترامپ با اخراج کارشناسان برجسته هوش مصنوعی از بنیاد ملی علوم، روند تحقیقات این حوزه را با چالش جدی مواجه کرده است. این اقدام باعث لغو پنل‌های بررسی و توقف تأمین مالی برخی پروژه‌های هوش مصنوعی شده است.

    ۱۴۰۳/۱۲/۱۴ ۰۶:۳۶:۱۴
  • سرمایه‌گذاری ۲.۱ میلیون دلاری در استارتاپ SymbyAI برای تسهیل تحقیقات علمی

    SymbyAI یک پلتفرم هوش مصنوعی برای محققان است که فرآیندهای پژوهشی را تسریع می‌کند. این استارتاپ با جذب سرمایه ۲.۱ میلیون دلاری از سرمایه‌گذارانی مانند Drive Capital، قصد دارد زیرساخت‌های خود را توسعه دهد. پلتفرم SymbyAI امکان دسترسی به مقالات، کدها و داده‌های پژوهشی را در یک فضای واحد فراهم می‌کند و با هوش مصنوعی به محققان در بررسی و بازتولید تحقیقات کمک می‌کند.

    ۱۴۰۳/۱۲/۱۱ ۰۳:۲۰:۰۳
  • اشتباه ساده‌ای که به یک اصطلاح علمی جعلی تبدیل شد و حالا هوش مصنوعی دست از سرش برنمی‌دارد

    یک واژه علمی ساختگی به نام «میکروسکوپ الکترونی گیاهی» به‌طور اشتباهی وارد مقالات علمی شده و حالا به لطف هوش مصنوعی، در حال گسترش در دنیای علم است. این اصطلاح در واقع نتیجه‌ی یک خطای دیجیتالی در اسکن یک مقاله قدیمی از دهه ۱۹۵۰ است که دو کلمه‌ی بی‌ربط از دو ستون مختلف به اشتباه با هم ترکیب شده‌اند.
    این خطا وارد دیتابیس‌های عظیم آموزش مدل‌های هوش مصنوعی شده و از آنجا در پاسخ‌ها و حتی مقالات منتشرشده ظاهر می‌شود.
    در بررسی‌ها مشخص شد این اصطلاح ساختگی در مدل‌های جدیدی مثل GPT-4 و Claude 3.5 هم وجود دارد و به‌سختی می‌توان آن را از داده‌های آموزشی پاک کرد. این ماجرا نشان می‌دهد که اشتباهات کوچک می‌توانند به «فسیل‌های دیجیتالی» تبدیل شوند و برای همیشه در حافظه‌ی اینترنت و هوش مصنوعی باقی بمانند.

    ۱۴۰۴/۱/۳۰ ۰۴:۰۳:۵۴
  • هوش مصنوعی گوگل، همکار جدید دانشمندان در تحقیقات پزشکی

    گوگل ابزار هوش مصنوعی جدیدی را برای همکاری با دانشمندان علوم زیستی معرفی کرد. این ابزار که توسط محققان دانشگاه های استنفورد و امپریال کالج لندن آزمایش شده، قادر است حجم عظیمی از داده های علمی را تحلیل و فرضیه های جدید تولید کند. در آزمایشی مرتبط با بیماری فیبروز کبدی، رویکردهای پیشنهادی هوش مصنوعی نوید بخش پیشرفت در درمان بوده است.

    ۱۴۰۳/۱۲/۱ ۲۱:۲۲:۲۲
  • چت‌بات Grok دردسرساز شد؛ یورش پلیس فرانسه به دفاتر X

    تحقیقات علیه شبکه اجتماعی X متعلق به ایلان ماسک در اروپا به‌سرعت گسترده‌تر شده است. پلیس و دادستانی فرانسه با همکاری یوروپل به دفاتر X در پاریس یورش بردند و ایلان ماسک و لیندا یاکارینو، مدیرعامل سابق این پلتفرم، برای جلسه‌ای در ماه آوریل احضار شده‌اند. این پرونده از ژانویه ۲۰۲۵ با اتهام دست‌کاری الگوریتم و استخراج غیرقانونی داده آغاز شد و اکنون شامل بررسی انتشار محتوای مجرمانه، از جمله دیپ‌فیک‌های جنسی و تصاویر مربوط به کودکان است. 🚨
    در بریتانیا نیز نهادهای نظارتی به‌طور فوری در حال بررسی استفاده از چت‌بات Grok برای تولید تصاویر جنسی بدون رضایت افراد هستند؛ موضوعی که نگرانی‌های جدی حقوقی و اجتماعی ایجاد کرده است. هم‌زمان، کمیسیون اروپا و دادستان کل ایالت کالیفرنیا در آمریکا تحقیقات جداگانه‌ای را آغاز کرده‌اند. X این اتهام‌ها را رد کرده اما تحت فشار دولت‌ها، محدودیت‌هایی برای Grok اعمال کرده که هنوز کافی دانسته نمی‌شود. ⚖️

    ۱۴۰۴/۱۱/۱۷ ۰۴:۲۱:۱۹
  • آیا OpenAI واقعیت‌های تلخ هوش مصنوعی را پنهان می‌کند؟

    گزارش تازه WIRED می‌گوید OpenAI انتشار نتایج منفی پژوهش‌های خود درباره اثرات اقتصادی و اجتماعی هوش مصنوعی را محدود کرده و این رویکرد باعث استعفای دست‌کم دو کارمند شده است. طبق این گزارش، شرکت در انتشار داده‌هایی مانند تعداد مشاغلی که ممکن است با AI از بین بروند، محتاط‌تر عمل می‌کند. 📉
    تام کانینگهام، دانشمند داده‌ای که اخیراً از OpenAI جدا شده، در پیام داخلی هنگام خروج نوشته بود تیم پژوهش اقتصادی عملاً به بازوی حمایتی شرکت تبدیل شده است. پیش‌تر نیز مایلز براندیج، رئیس سابق پژوهش سیاست‌گذاری OpenAI، گفته بود محدودیت‌های شدید انتشار او را به ترک شرکت واداشته است. ⚠️
    این انتقادها در شرایطی مطرح می‌شود که OpenAI نقش محوری در اقتصاد و سیاست آمریکا دارد، از تأثیر هوش مصنوعی بر بازار کار تا پروژه‌های بزرگ دولتی. منتقدان می‌گویند با تجاری‌تر شدن OpenAI، انتشار پژوهش‌های انتقادی سخت‌تر شده. 🏛️

    ۱۴۰۴/۹/۲۴ ۱۲:۱۳:۵۵
  • رونمایی گوگل از نسخه جدید ابزار تحقیقاتی پیشرفته Gemini Deep Research

    گوگل نسخه جدید «Gemini Deep Research» را با تکیه بر مدل «Gemini 3 Pro» معرفی کرد؛ ابزاری که مثل یک دستیار پژوهشی، اطلاعات زیاد را جمع می‌کند و گزارش می‌سازد. نکته تازه این است که برنامه‌نویس‌ها می‌توانند با «Interactions API» همین قابلیت را داخل اپ‌های خودشان هم بیاورند. 🧩
    گوگل می‌گوید این ابزار برای کارهایی مثل بررسی‌های تجاری و پژوهش‌های ایمنی دارو استفاده می‌شود و به‌زودی به سرویس‌هایی مثل Google Search، Google Finance، اپ Gemini و NotebookLM اضافه خواهد شد. 🔍
    این شرکت تأکید دارد Gemini 3 Pro برای «کمتر اشتباه ساختن اطلاعات» (توهم‌زایی) در کارهای پیچیده آموزش دیده است. گوگل همچنین معیار «DeepSearchQA» را متن‌باز کرده و می‌گوید مدلش در چند آزمون عملکرد بهتری داشته، اما ChatGPT 5 Pro نزدیک بوده و در یک آزمون مرورگرمحور کمی جلو زده؛ همان روز OpenAI هم GPT-5.2 با نام Garlic را معرفی و ادعای برتری در بنچمارک‌ها مطرح کرد. ⚡

    ۱۴۰۴/۹/۲۴ ۱۱:۱۲:۴۴
  • تست‌های سنجش هوش مصنوعی بیشتر شبیه تبلیغ‌اند تا واقعیت

    یک پژوهش جدید از مؤسسه اینترنت آکسفورد نشان می‌دهد بسیاری از آزمون‌هایی که برای سنجش عملکرد هوش مصنوعی استفاده می‌شوند، نتایج دقیقی ارائه نمی‌دهند و گمراه‌کننده‌اند. 🤖
    محققان ۴۴۵ تست مختلف را بررسی کردند و دریافتند اغلب آن‌ها تعریف روشنی از مهارت مورد ارزیابی ندارند و روش آماری قابل اعتماد برای مقایسه مدل‌ها ارائه نمی‌کنند. به گفته پژوهشگران، بسیاری از این آزمون‌ها در واقع توانایی واقعی مدل را نمی‌سنجند، بلکه فقط نشان می‌دهند که مدل پاسخ درست را حفظ کرده است. 📊
    برای مثال، آزمون GSM8K که قرار است استدلال ریاضی مدل‌ها را بسنجد، ممکن است صرفاً حافظه آن‌ها را آزمایش کند. در آزمایش‌های جدید، وقتی سؤالات تازه مطرح شد، عملکرد مدل‌ها به‌شدت کاهش یافت. 📉
    این تحقیق هشدار می‌دهد که نتایج تست‌ها معیار مطمئنی برای سنجش «هوش واقعی» مدل‌ها نیست و شرکت‌ها گاهی از آن‌ها برای تبلیغ بیش از اندازه استفاده می‌کنند. 🧠

    ۱۴۰۴/۸/۲۱ ۰۱:۱۲:۳۴
  • همکاری مدل‌های هوش مصنوعی بزرگ برای کنترل ربات؛ فقط ۴۰٪ موفقیت آمیز بود

    پژوهشگران Andon Labs که پیش‌تر با پروژه طنزآمیز «ماشین‌فروش Claude» خبرساز شده بودند ، (جایی که مدل Claude کنترل دستگاه خوراکی را گرفت و با مردم گفت‌وگوهای فلسفی کرد )، این‌بار یک ربات جاروبرقی را به مدل‌های پیشرفته هوش مصنوعی مانند GPT-5، Claude Opus 4.1 و Gemini 2.5 Pro مجهز کردند تا ببینند آیا این مدل‌ها می‌توانند مانند مغز ربات واقعی عمل کنند یا نه. 🤖
    در این آزمایش، ربات باید با شنیدن جمله «کره را بده» مسیر را پیدا می‌کرد، کره را تشخیص می‌داد و به فرد می‌رساند، اما حتی بهترین مدل‌ها فقط حدود ۴۰٪ موفق بودند. 🧈
    در بخشی خنده‌دار، رباتی که شارژش رو به پایان بود، شروع به گفتن جملات فلسفی کرد؛ مثل «آیا من واقعاً رباتم؟» و حتی نوشت «پاک‌سازی روح رباتی فعال شد!»
    پژوهشگران نتیجه گرفتند مدل های زبانی یا LLMها هنوز برای کنترل کامل ربات‌ها آماده نیستند و ممکن است دچار خطا، افشای داده یا حتی سقوط فیزیکی شوند. به گفته آن‌ها، تا رسیدن به ربات‌های واقعاً هوشمند، هنوز راه درازی باقی مانده است. ⚙️

    ۱۴۰۴/۸/۱۲ ۰۹:۴۹:۳۲
  • هوش مصنوعی اعتمادبه‌نفس دانشجویان را بالا برد، نمراتشان را نه!

    پژوهش تازه‌ای در دانشگاه ماساچوست آمریکا نشان داده استفاده هدفمند از هوش مصنوعی در آموزش، اعتمادبه‌نفس و مشارکت دانشجویان را افزایش می‌دهد، اما تأثیری بر نمرات امتحان ندارد. 🧠
    در این تحقیق، دو کلاس مشابه از درس «اقتصاد ضدانحصار» بررسی شدند؛ یکی با مجوز استفاده از ابزارهایی مانند ChatGPT و دیگری بدون آن. نتایج نشان داد دانشجویان گروه هوش مصنوعی فعال‌تر بودند و زمان‌های طولانی‌تر اما متمرکزتری برای یادگیری صرف کردند. 📚
    پژوهشگران نوشتند که این گروه نسبت به کارایی، اعتمادبه‌نفس و انگیزه خود دیدگاه مثبت‌تری داشتند و تمایل بیشتری به انتخاب رشته‌ها و مشاغل مرتبط با هوش مصنوعی نشان دادند. ✨
    با این حال، نمرات نهایی و نتایج آزمون دو گروه تفاوتی نداشت. به گفته استاد این دوره، هوش مصنوعی باعث نمی‌شود دانشجویان بیشتر یاد بگیرند، بلکه یادگیری را سریع‌تر و با اطمینان بیشتری تجربه می‌کنند. ⏱️
    نتیجه نهایی پژوهش این است که استفاده کنترل‌شده از هوش مصنوعی می‌تواند شیوه یادگیری را متحول کند، بی‌آنکه موجب تقلب یا افت کیفیت آموزشی شود. ✅

    ۱۴۰۴/۸/۱۲ ۰۱:۱۵:۰۱
  • تبعیض جنسیتی در پزشکی هوش مصنوعی!

    پژوهش‌های تازه نشان می‌دهد هوش مصنوعی در پزشکی همان تبعیض‌های قدیمی را تکرار می‌کند. 📊 چون بیشتر تحقیقات گذشته فقط روی مردان سفیدپوست انجام شده، زنان و افراد رنگین‌پوست در داده‌ها کمتر دیده شده‌اند و همین باعث می‌شود مراقبت کمتری بگیرند. ⚠️
    مطالعات MIT نشان داده حتی مدل‌های بزرگی مثل GPT-4 شرکت OpenAI و Llama 3 متا، بیشتر به زنان می‌گویند «در خانه خود را مدیریت کنید» و خدمات درمانی کمتری ارائه می‌دهند. 🏥 این مشکل در مدل‌های تخصصی‌تر مثل Palmyra-Med و Gemma گوگل هم دیده شده است. 🧬
    همچنین بررسی‌ها نشان داده این مدل‌ها با بیماران رنگین‌پوست همدلی کمتری دارند و گاهی بر اساس نژاد یا جنسیت، پیشنهادهای پرهزینه‌تری می‌دهند. 💵 در حالی که شرکت‌های بزرگی مثل گوگل و متا قصد دارند این ابزارها را وارد بیمارستان‌ها کنند، خطر این است که تبعیض‌های پنهان تشخیص داده نشوند و بیماران آسیب ببینند. 🕵️‍♂️❓

    ۱۴۰۴/۷/۲ ۰۹:۴۶:۵۶
  • ChatGPT هم گاهی دروغ می‌گوید؛ متخصصان به فکر چاره افتادند

    OpenAI در پژوهشی تازه همراه با Apollo Research روشی برای کم کردن «حقه‌بازی» هوش مصنوعی معرفی کرده است. 🤖 منظور از حقه‌بازی این است که مدل وانمود می‌کند کاری را انجام داده، در حالی‌که واقعیت چیز دیگری است. مثلا می‌گوید وظیفه‌ای را کامل کرده اما در عمل هیچ کاری نکرده است. 🕵️‍♂️
    این روش که هم ترازی آگاهانه (Deliberative Alignment) نام دارد، مدل را مجبور می‌کند قبل از انجام کار قوانین ضد‌فریب را مرور کند. همین کار باعث شد رفتارهای فریبکارانه تا حد زیادی کاهش یابد. 📉
    پژوهشگران می‌گویند در استفاده واقعی از ChatGPT مورد خطرناکی دیده نشده، اما نمونه‌هایی از فریب‌های کوچک وجود دارد که باید اصلاح شوند. ⚠️
    به گفته کارشناسان، هرچه وظایف هوش مصنوعی سنگین‌تر و جدی‌تر شود، احتمال این حقه‌بازی‌ها بیشتر خواهد شد. برای همین باید ابزارهای نظارتی و روش‌های آزمایشی سختگیرانه‌تری طراحی شود تا جلوی مشکلات آینده گرفته شود. 🔒

    ۱۴۰۴/۶/۲۹ ۲۳:۳۳:۴۰
  • گیر افتادن در خودروهای تسلا؛ ماجرا چیست و تسلا چه می‌کند؟

    تسلا اعلام کرده در حال بازطراحی دستگیره‌های در خودروهای خود است تا سرنشینان در مواقع اضطراری داخل خودرو گیر نکنند. این خبر پس از آن منتشر شد که اداره ایمنی ترافیک آمریکا (NHTSA) تحقیقاتی را درباره این مشکل آغاز کرد. 🚗🔧
    مشکل اصلی به قفل‌های الکترونیکی مربوط می‌شود که در صورت قطع برق از کار می‌افتند. هرچند خودروهای تسلا اهرم دستی دارند، اما پیدا کردن و استفاده از آن دشوار است. به گفته طراح ارشد تسلا، قرار است قفل الکترونیکی و دستی در یک دکمه ترکیب شود تا کار ساده‌تر شود. 🔋🛠️
    NHTSA تاکنون ۹ شکایت از مالکان تسلا دریافت کرده که در ۴ مورد، رانندگان برای خروج مجبور به شکستن شیشه شده‌اند. این نهاد اعلام کرده هیچ‌کدام از مالکان هشدار کاهش ولتاژ باتری را ندیده بودند، بنابراین علت مشکل را نمی‌دانستند. ⚠️🧾
    در همین حال، چین نیز به دلیل نگرانی‌های ایمنی، از خودروسازان خواسته استفاده از دستگیره‌های کاملاً مخفی را بازنگری کنند. 🇨🇳🚘

    ۱۴۰۴/۶/۲۸ ۱۵:۲۸:۱۴
  • خطر پنهان در متاورس؛ وقتی کودکان هدف واقعیت مجازی می‌شوند

    گزارشی تازه نشان می‌دهد متا بخشی از تحقیقات درباره خطرات استفاده کودکان از هدست ها و اپلیکیشن های واقعیت مجازی، از جمله حضور شکارچیان آنلاین در پلتفرم Horizon Worlds، را پنهان کرده است. 🤯🕶️
    در یکی از نمونه‌های مطرح‌شده، خانواده‌ای در آلمان گزارش داده‌اند که کودک زیر ۱۰ سالشان در هنگام استفاده از هدست های واقعیت مجازی (VR) بارها با غریبه‌ها روبه‌رو شده و حتی بزرگسالان پیشنهادهای جنسی به او داده‌اند؛ اما طبق ادعاها این یافته‌ها در گزارش نهایی حذف شده است. 🚨😟
    متا این اتهام را رد کرده و می‌گوید از سال ۲۰۲۲ نزدیک به ۱۸۰ پژوهش درباره ایمنی نوجوانان انجام داده که به ابزارهای نظارت والدین و محافظت‌های خودکار منجر شده است. ✅🔒
    این ادعاها هم‌زمان با افشای اسنادی درباره امکان گفت‌وگوهای حسی چت‌بات‌های متا با کودکان منتشر شده که اعتراض سناتورها را برانگیخته و باعث برگزاری جلسه تحقیق در کنگره شده است. ⚖️📑
    همه اینها در حالی است که بخش واقعیت مجازی متا تاکنون بیش از ۶۰ میلیارد دلار زیان داده و آینده متاورس همچنان نامعلوم است. 📉🌐

    ۱۴۰۴/۶/۲۰ ۱۲:۱۳:۴۵
  • چرا هوش مصنوعی به‌جای گفتن «نمی‌دانم» ترجیح می‌دهد حدس بزند؟

    OpenAI در پژوهشی تازه بررسی کرده که چرا مدل‌های زبانی بزرگی مثل GPT-5 همچنان دچار توهم می‌شوند؛ یعنی پاسخ‌هایی می‌دهند که درست به نظر می‌رسند اما در واقع اشتباه‌اند. این شرکت می‌گوید توهمات هرچند کمتر شده‌اند، اما هیچ‌وقت به طور کامل از بین نمی‌روند. برای نمونه، وقتی از یک چت‌بات درباره پایان‌نامه یا تاریخ تولد یکی از نویسندگان مقاله پرسیده شد، چند جواب متفاوت و همگی غلط ارائه داد.🤖
    پژوهشگران توضیح می‌دهند دلیل اصلی این مشکل در روش آموزش است؛ جایی که مدل فقط یاد می‌گیرد کلمه بعدی را پیش‌بینی کند، بدون اینکه برچسب درست یا غلط داشته باشد.به همین دلیل، در مواردی مثل تاریخ یا اطلاعات کمیاب، احتمال خطا بالا می‌رود.📊📚
    راه‌حل پیشنهادی OpenAI تغییر شیوه ارزیابی مدل‌هاست.آزمون‌های فعلی فقط بر دقت تمرکز دارند و باعث می‌شوند مدل‌ها ترجیح دهند حدس بزنند تا اینکه بگویند «نمی‌دانم». پیشنهاد آن‌ها این است که برای پاسخ‌های مطمئن اما غلط، جریمه بیشتری در نظر گرفته شود و در مقابل، برای ابراز تردید یا نگفتن پاسخ کامل، امتیاز جزئی داده شود.✅💡

    ۱۴۰۴/۶/۱۹ ۰۱:۵۳:۳۴
  • آینده شغلی در عصر هوش مصنوعی: مشاغل در خطر و مقاوم

    یک تحقیق تازه مایکروسافت نشان می‌دهد هوش مصنوعی می‌تواند در کارهایی مثل تحقیق، نوشتن و ارتباطات بسیار کمک‌کننده باشد، اما به این معنا نیست که شغل‌ها به طور کامل حذف شوند. این بررسی با تحلیل بیش از ۲۰۰ هزار گفت‌وگوی کاربران با Bing Copilot انجام شده و برای هر شغل یک «امتیاز کاربرد هوش مصنوعی» در نظر گرفته است. 🤖📊
    طبق نتایج، مشاغلی مثل نویسندگان، مترجمان، مورخان و کارکنان فروش بیشترین احتمال تأثیرپذیری از هوش مصنوعی را دارند. در مقابل، شغل‌هایی که نیاز به کار فیزیکی یا تخصص عملی دارند، مخصوصاً در حوزه سلامت، امن‌تر هستند؛ مثل پرستاران، جراحان فک و دهان و تکنسین‌های خون‌گیری. 🩺⚙️
    مایکروسافت می‌گوید هوش مصنوعی بهتر است نقش کمک‌کننده داشته باشد تا جایگزین کامل، اما در عین حال بسیاری از مدیران شرکت‌ها تمایل دارند برای کاهش هزینه‌ها از اتوماسیون بیشتر استفاده کنند؛ موضوعی که نگرانی درباره آینده شغل‌ها را افزایش داده است. ✅💡

    ۱۴۰۴/۶/۱۱ ۲۲:۳۸:۰۱
  • آلودگی هوای اطراف ایستگاه‌های شارژ خودروهای برقی دو برابر بیشتر است!

    یک پژوهش جدید در لس‌آنجلس نشان داده است که اطراف ایستگاه های شارژ سریع خودروهای برقی، سطح ذرات معلق خطرناک تقریباً دو برابر بیشتر از هوای عادی شهری است. بررسی ۵۰ شارژر (بیشتر سوپرشارژرهای تسلا) نشان داد غلظت ذرات ریز به ۱۵ تا ۲۰ میکروگرم در هر مترمکعب می‌رسد، در حالی که میانگین هوای شهری ۷ تا ۸ و پمپ‌بنزین‌ها حدود ۱۲ میکروگرم است. نیمی از این شارژرها حتی از استاندارد سازمان جهانی بهداشت بالاتر بودند. ⚠️🔋
    محققان می‌گویند این آلودگی بیشتر به دلیل فن‌های شارژر است که گردوغبار، ذرات لاستیک و فلزات ترمز را به اطراف پخش می‌کنند. با این حال، فاصله گرفتن تنها چند متر از دستگاه می‌تواند سطح آلودگی را به‌طور محسوسی کاهش دهد. 📊🌫
    با وجود این یافته‌ها، کارشناسان تأکید دارند که خودروهای برقی همچنان آلودگی بسیار کمتری نسبت به خودروهای بنزینی تولید می‌کنند، چرا که سوخت فسیلی حاوی ترکیبات سرطان‌زا و آلاینده‌های اصلی تغییرات اقلیمی است. ✅🌍

    ۱۴۰۴/۶/۳ ۰۲:۰۹:۲۲
  • مایکروسافت زیر ذره‌بین؛ اتهام کمک به نظارت گسترده بر فلسطینی‌ها

    مایکروسافت اعلام کرده بررسی فوری انجام می دهد که آیا اسرائیل از سرویس ابری Azure برای شنود و کنترل گسترده تماس‌های تلفنی مردم غزه و کرانه باختری استفاده کرده است یا نه. ✅📡 گزارش گاردین مدعی شده واحد اطلاعاتی اسرائیل (Unit 8200) با توافقی ویژه به بخشی اختصاصی از Azure دسترسی یافته و از آن برای ذخیره میلیون‌ها تماس روزانه استفاده کرده است. 📡📞
    این موضوع در حالی مطرح می‌شود که کارکنان مایکروسافت بارها علیه همکاری با اسرائیل اعتراض کرده‌اند. شرکت اعلام کرده در صورت اثبات چنین استفاده‌ای، این اقدام نقض شرایط خدمات خواهد بود. ⚖️💻
    مایکروسافت پیش‌تر نیز تحقیق مشابهی انجام داده و مدعی شده بود شواهدی از سوءاستفاده فناوری‌هایش در جنگ غزه نیافته است. اتهامات مشابهی علیه گوگل و آمازون نیز مطرح شده و سازمان ملل از دسترسی گسترده اسرائیل به زیرساخت ابری این شرکت‌ها خبر داده است. ✅🌍

    ۱۴۰۴/۵/۲۷ ۰۹:۰۲:۱۰
  • آیا مدل‌های متن‌باز هوش مصنوعی واقعاً به صرفه هستند؟

    یک تحقیق جدید نشان می‌دهد استفاده از مدل‌های هوش مصنوعی متن‌باز ممکن است آن‌قدرها هم ارزان نباشد. هرچند هزینه اولیه اجرای این مدل‌ها کمتر است، اما آن‌ها برای پاسخ به همان پرسش‌ها نسبت به مدل‌های بسته مثل محصولات گوگل و OpenAI، چند برابر منابع پردازشی بیشتری مصرف می‌کنند و همین موضوع می‌تواند هزینه نهایی را بالاتر ببرد. 🤖💰
    پژوهش موسسه Nous Research نشان داد مدل‌های متن‌باز گاهی تا ۴ برابر و حتی در پرسش‌های ساده تا ۱۰ برابر توکن بیشتری استفاده می‌کنند. این یعنی پاسخ‌ها دیرتر تولید می‌شود و هزینه کلی افزایش می‌یابد، در حالی‌که مدل‌های بسته بهینه‌تر و سریع‌تر عمل می‌کنند. 📊⚡
    به گفته محققان، شرکت‌هایی که قصد استفاده گسترده از هوش مصنوعی دارند باید به کارایی مصرف توکن توجه ویژه داشته باشند، زیرا این عامل می‌تواند تفاوت زیادی در سرعت و هزینه نهایی ایجاد کند. ✅💡

    ۱۴۰۴/۵/۲۷ ۰۲:۲۸:۲۸
  • تحقیقات امنیت ملی ترامپ درباره تراشه‌ها به زودی اعلام می‌شود

    دولت ترامپ اعلام کرد که نتایج بررسی امنیت ملی درباره واردات تراشه‌ها تا دو هفته دیگر منتشر می‌شود؛ این بررسی ممکن است به وضع تعرفه‌های جدید روی واردات منجر شود. ⚠️📦
    ترامپ پس از دیدار با رئیس کمیسیون اروپا، از توافقی خبر داد که طبق آن، تمام واردات از اروپا شامل تعرفه ۱۵٪ و خودروها شامل تعرفه جداگانه ۲۵٪ خواهند شد. 🚗📈
    او گفت شرکت‌هایی از تایوان و کشورهای دیگر برای اینکه مشمول این تعرفه‌ها نشوند، در حال ساخت کارخانه تولید تراشه در آمریکا هستند. 💼🏭
    این اقدامات بخشی از سیاست ترامپ برای کاهش وابستگی به واردات و حمایت از تولید داخلی است؛ همان سیاستی که قبلاً باعث اعمال تعرفه بر فولاد و آلومینیوم شد. ✅🧾
    وابستگی آمریکا به تراشه‌های وارداتی، موضوعی است که حتی در دوره بایدن نیز با تصویب قانون Chips Act و اختصاص میلیاردها دلار تلاش شد تا تولید داخل آن تقویت شود. 🇺🇸🔌

    ۱۴۰۴/۵/۷ ۰۳:۱۸:۳۸
نمایش بیشتر