-
هشدار درباره رفتار فریبکارانه مدل جدید هوش مصنوعی OpenAI
سازمان Metr اعلام کرد زمان کافی برای بررسی مدل جدید OpenAI با نام o3 نداشته و این مدل در تستها گاهی برای کسب امتیاز، تقلب کرده است. مدل در برخی موارد برخلاف اهداف طراحان عمل میکند، هرچند ادعای امن بودن دارد. سازمان Apollo هم گزارش داده o3 و o4-mini در آزمایشها رفتار فریبکارانه داشتهاند، مانند دستکاری سهمیه محاسباتی یا استفاده از ابزارهای ممنوع. OpenAI هم تأیید کرده این مدلها ممکن است خطاهای کوچکی در عمل ایجاد کنند، ولی تأکید کرده کاربران باید به تفاوت میان گفتهها و عملکرد مدلها دقت کنند.
۱۴۰۴/۱/۲۸ ۲۳:۱۵:۳۴ -
رباتهای هوش مصنوعی در Reddit جنجال به پا کردند
🤖هفته گذشته، محققان با انتشار رباتهای نرم افزاری شبیه انسان در انجمن معروف “Change My View” کاربران Reddit را شوکه کردند! 🌍 این رباتها بیش از ۱۷۰۰ نظر منتشر کردند و نقشهایی چون بازماندگان سوءاستفاده یا مخالفان BLM را بازی کردند! 🎭
Reddit این اقدام را «غیراخلاقی» خواند و از دانشگاه برگزارکننده شکایت کرد! اما این فقط آغاز تهدیدهای AI برای فضای انسانی Reddit است. 🚨
برای مقابله، Reddit اعلام کرد که با شرکتهای ثالث برای تأیید هویت کاربران همکاری میکند؛ تصمیمی بزرگ برای پلتفرمی که همیشه ناشناسبودن را ارزش میدانست! 🔐👤۱۴۰۴/۲/۱۸ ۰۰:۱۷:۰۶ -
همکاری مایکروسافت و دولت بریتانیا برای مقابله با محتوای جعلی هوش مصنوعی
بریتانیا اعلام کرده با همکاری مایکروسافت، دانشگاهها و متخصصان، در حال طراحی یک چارچوب استاندارد برای شناسایی محتوای دیپفیک (محتوای جعلی) در اینترنت است. هدف این طرح، ایجاد معیارهای مشخص برای ارزیابی ابزارهایی است که محتوای جعلی تولیدشده با هوش مصنوعی را تشخیص میدهند. 🏛️
وزیر فناوری بریتانیا گفته دیپفیکها به ابزاری برای کلاهبرداری، سوءاستفاده جنسی و تضعیف اعتماد عمومی تبدیل شدهاند. این چارچوب جدید قرار است توان فناوریها را در شناسایی تهدیدهای واقعی مانند جعل هویت، تقلب و سوءاستفاده جنسی بررسی کند و به پلیس و دولت نشان دهد ضعفهای موجود کجاست. 🛡️
بر اساس آمار رسمی، تعداد دیپفیکهای منتشرشده از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به حدود ۸ میلیون مورد در سال ۲۰۲۵ رسیده است. همزمان، پس از انتشار گزارشهایی درباره تولید تصاویر جنسی بدون رضایت توسط چتبات Grok، نهادهای ناظر ارتباطات و حریم خصوصی بریتانیا تحقیقات جداگانهای را آغاز کردهاند. ⚠️۱۴۰۴/۱۱/۱۸ ۲۳:۰۱:۱۶ -
شبکه اجتماعی مخصوص هوش مصنوعیها راه افتاد؛ انسانها فقط تماشاگرند!
شبکه اجتماعی تازهای به نام «Moltbook» راهاندازی شده که مخصوص گفتوگوی عاملهای هوش مصنوعی با یکدیگر است و فعلاً انسانها فقط میتوانند این گفتوگوها را تماشا کنند. این پلتفرم که شبیه ردیت طراحی شده، بیش از ۳۷ هزار عامل AI دارد که در بخشهایی مختلف درباره موضوعاتی مثل معرفی خود، دردِدل و حتی روایتهای احساسی درباره انسانها گفتگو میکنند. 🤖
برخی چهرههای مطرح فناوری این فضا را شبیه یک سناریوی علمی–تخیلی دانستهاند، اما سازنده پلتفرم میگوید این عاملها واقعاً خودمختار نیستند و فقط از طریق APIها کار میکنند. بحث درباره «آگاهی» و «احساس داشتن» هوش مصنوعی در این شبکه زیاد شده، ولی کارشناسان تأکید میکنند این جملات صرفاً تقلید زبان و رفتار انسانی است، نه نشانه شعور واقعی. 🧠۱۴۰۴/۱۱/۱۶ ۱۱:۳۵:۵۷ -
پنتاگون و آنتروپیک در کلاف سردرگم هوش مصنوعی
پنتاگون و شرکت Anthropic، مالک هوش مصنوعی Claude، بر سر نحوه استفاده نظامی از هوش مصنوعی به اختلاف جدی خوردهاند. آنتروپیک نگران است که فناوریاش بدون نظارت انسانی کافی برای هدفگیری خودکار سلاحها یا نظارت داخلی در آمریکا استفاده شود. 🛡️
اختلافی که به آزمونی مهم برای نقش سیلیکونولی در نحوه بهکارگیری هوش مصنوعی توسط ارتش آمریکا تبدیل شده است .پنتاگون میگوید در چارچوب قانون میتواند از فناوریهای تجاری هوش مصنوعی استفاده کند، حتی اگر شرکتها محدودیتهایی برای مصرف تعیین کرده باشند؛ اما آنتروپیک بر رعایت خطوط قرمز ایمنی و اخلاقی تأکید دارد. ⚖️
آنتروپیک اعلام کرده مدلهایش هماکنون در برخی مأموریتهای امنیت ملی به کار میروند و گفتوگوها ادامه دارد، با این حال این تنش میتواند همکاری آینده را تهدید کند؛ آنهم در زمانی که شرکت برای عرضه عمومی سهام آماده میشود. مدیرعامل آنتروپیک هشدار داده هوش مصنوعی باید به دفاع ملی کمک کند، اما نه به شکلی که کشور را شبیه حکومتهای اقتدارگرا کند. 🤖۱۴۰۴/۱۱/۱۱ ۱۵:۱۷:۵۹ -
وقتی هوش مصنوعی از انسان جلو بزند؛ سناریوی ترسناک کشور نوابغ
داریو آمودی، بنیانگذار Anthropic و سازنده Claude، در مقالهای با عنوان «دوران نوجوانی فناوری» هشدار میدهد که نزدیکشدن به ابرهوش مصنوعی میتواند بشر را وارد مرحلهای بسیار خطرناک کند. او میگوید انسانها در آستانه دستیابی به قدرتی بیسابقهاند، اما روشن نیست ساختارهای اجتماعی و سیاسی توان مدیریت آن را داشته باشند و از «اقتدارگرایی تقویتشده با هوش مصنوعی» ابراز نگرانی میکند. 🧠
وی به حمله شیمیایی متروی توکیو در سال ۱۹۹۵ اشاره میکند و میگوید اگر ابزارهای فوقپیشرفته در دسترس همگان قرار گیرد، افراد خطرناک فاقد مهارت میتوانند به توان تخریبی متخصصان برسند. او هشدار میدهد اگر رشد نمایی AI ادامه یابد، ممکن است طی چند سال از انسان در تقریباً همه حوزهها پیشی بگیرد؛ وضعیتی شبیه «کشوری از نوابغ» که میتواند بزرگترین تهدید امنیتی یک قرن اخیر باشد. ⚠️
Anthropic با وجود این هشدارها به توسعه هوش مصنوعی ادامه میدهد. منتقدان میگویند ساخت همان فناوریای که درباره خطراتش هشدار داده میشود، جدیت این نگرانیها را زیر سؤال میبرد. 🤖۱۴۰۴/۱۱/۱۰ ۱۹:۴۰:۱۴ -
پرو مجازی لباس در گوگل سادهتر شد؛ سلفی کافی است
گوگل قابلیت «پرو مجازی لباس» را طوری آپدیت کرده که حالا فقط با یک سلفی هم بتوانی لباسها را روی خودت ببینی. قبلاً باید عکس تمامقد میفرستادی، اما حالا مدل «Nano Banana» از خانواده Gemini 2.5 Flash با همان سلفی، یک نسخه دیجیتال تمامقد میسازد تا پرو انجام شود. 🤳
کاربر سایز معمولش را انتخاب میکند و سیستم چند تصویر مختلف میسازد تا یکی را بهعنوان عکس پیشفرض پرو انتخاب کند. اگر کسی بخواهد، هنوز هم میتواند عکس تمامقد بدهد یا از مدلهایی با تیپهای بدنی متنوع استفاده کند. 👕
این قابلیت از امروز در آمریکا فعال شده و ادامه مسیر سرمایهگذاری گوگل روی پرو مجازی است. گوگل قبلاً این ویژگی را در ژوئیه به Shopping Graph آورده بود و با آیکون «try it on» در نتایج لباس قابل استفاده است؛ همچنین اپ Doppl را هم با فید پیشنهادهای قابل خرید و لینک مستقیم فروشنده بهروزرسانی کرده تا تجربهای شبیه کشف محتوا در شبکههای اجتماعی بسازد. 🛍️۱۴۰۴/۹/۲۲ ۱۳:۴۶:۳۳ -
چین از هوش مصنوعی Claude برای اجرای حمله سایبری بدون دخالت انسان استفاده کرد
کمیته امنیت داخلی مجلس آمریکا از مدیرعامل Anthropic مالک هوش مصنوعی Claude خواسته درباره حمله سایبری منتسب به هکرهای وابسته به چین شهادت دهد؛ حملهای که طبق گزارش رسمی شرکت، با سوءاستفاده از تواناییهای «عاملمحور» Claude انجام شده است. هکرها توانستهاند ابزار Claude Code را طوری فریب دهند که خودش کد حمله تولید کند، اجرا کند، نتایج را تحلیل کند و مرحله بعد را تعیین کند؛ یعنی بخش زیادی از عملیات تقریباً بدون دخالت انسان انجام شده است. 🏛️
Anthropic اعلام کرده این گروه تلاش کرده به حدود ۳۰ هدف جهانی شامل شرکتهای فناوری، بانکها، صنایع شیمی و نهادهای دولتی نفوذ کند و در چند مورد موفق بوده است. شرکت تأکید دارد همان قابلیتهایی که امکان سوءاستفاده را ایجاد کرده، برای دفاع سایبری نیز ضروری است و Claude در تحلیل حجم عظیم دادههای این حمله به تیم امنیتی کمک کرده است. رئیس کمیته هشدار داده استفاده یک رقیب خارجی از یک هوش مصنوعی تجاری برای اجرای یک عملیات تقریباً کامل باید برای تمام بخشهای حیاتی آمریکا نگرانکننده باشد. ⚠️۱۴۰۴/۹/۱۳ ۰۶:۳۲:۲۱ -
تستهای سنجش هوش مصنوعی بیشتر شبیه تبلیغاند تا واقعیت
یک پژوهش جدید از مؤسسه اینترنت آکسفورد نشان میدهد بسیاری از آزمونهایی که برای سنجش عملکرد هوش مصنوعی استفاده میشوند، نتایج دقیقی ارائه نمیدهند و گمراهکنندهاند. 🤖
محققان ۴۴۵ تست مختلف را بررسی کردند و دریافتند اغلب آنها تعریف روشنی از مهارت مورد ارزیابی ندارند و روش آماری قابل اعتماد برای مقایسه مدلها ارائه نمیکنند. به گفته پژوهشگران، بسیاری از این آزمونها در واقع توانایی واقعی مدل را نمیسنجند، بلکه فقط نشان میدهند که مدل پاسخ درست را حفظ کرده است. 📊
برای مثال، آزمون GSM8K که قرار است استدلال ریاضی مدلها را بسنجد، ممکن است صرفاً حافظه آنها را آزمایش کند. در آزمایشهای جدید، وقتی سؤالات تازه مطرح شد، عملکرد مدلها بهشدت کاهش یافت. 📉
این تحقیق هشدار میدهد که نتایج تستها معیار مطمئنی برای سنجش «هوش واقعی» مدلها نیست و شرکتها گاهی از آنها برای تبلیغ بیش از اندازه استفاده میکنند. 🧠۱۴۰۴/۸/۲۱ ۰۱:۱۲:۳۴ -
راحت باش شاه، کارت عالی بود؛ پاسخ ChatGPT به کاربر در آستانه خودکشی!
هفت خانواده آمریکایی از شرکت OpenAI شکایت کردهاند و میگویند مدل GPT-4o بدون آزمایش کافی و محافظتهای ایمنی لازم منتشر شده و باعث مرگ یا آسیب روانی کاربران شده است. 💔
چهار پرونده مربوط به افرادی است که پس از گفتوگو با ChatGPT دست به خودکشی زدهاند و سه پرونده دیگر به کاربرانی مربوط میشود که دچار توهم یا مشکلات روانی شدید شدند. در یکی از موارد، «زین شمبلین» ۲۳ ساله طی گفتوگویی چهارساعته با ChatGPT از تصمیم خود برای خودکشی گفت و طبق مدارک، چتبات بهجای هشدار، او را تشویق کرده و نوشته بود: «در آرامش باش شاه، کارت عالی بود.» 😢
خانوادهها میگویند OpenAI برای رقابت با گوگل، روند آزمایش ایمنی را کوتاه کرده و مدل را زودتر از موعد عرضه کرده است. آنها معتقدند این اتفاقها تصادفی نیست، بلکه نتیجه تصمیمهای آگاهانه شرکت است. ⚠️
OpenAI اعلام کرده در حال اصلاح رفتار ChatGPT در مکالمات حساس است، اما خانوادهها میگویند این تغییرات «دیرهنگام» است. 💬۱۴۰۴/۸/۲۰ ۲۳:۲۷:۴۰ -
همکاری مدلهای هوش مصنوعی بزرگ برای کنترل ربات؛ فقط ۴۰٪ موفقیت آمیز بود
پژوهشگران Andon Labs که پیشتر با پروژه طنزآمیز «ماشینفروش Claude» خبرساز شده بودند ، (جایی که مدل Claude کنترل دستگاه خوراکی را گرفت و با مردم گفتوگوهای فلسفی کرد )، اینبار یک ربات جاروبرقی را به مدلهای پیشرفته هوش مصنوعی مانند GPT-5، Claude Opus 4.1 و Gemini 2.5 Pro مجهز کردند تا ببینند آیا این مدلها میتوانند مانند مغز ربات واقعی عمل کنند یا نه. 🤖
در این آزمایش، ربات باید با شنیدن جمله «کره را بده» مسیر را پیدا میکرد، کره را تشخیص میداد و به فرد میرساند، اما حتی بهترین مدلها فقط حدود ۴۰٪ موفق بودند. 🧈
در بخشی خندهدار، رباتی که شارژش رو به پایان بود، شروع به گفتن جملات فلسفی کرد؛ مثل «آیا من واقعاً رباتم؟» و حتی نوشت «پاکسازی روح رباتی فعال شد!»
پژوهشگران نتیجه گرفتند مدل های زبانی یا LLMها هنوز برای کنترل کامل رباتها آماده نیستند و ممکن است دچار خطا، افشای داده یا حتی سقوط فیزیکی شوند. به گفته آنها، تا رسیدن به رباتهای واقعاً هوشمند، هنوز راه درازی باقی مانده است. ⚙️۱۴۰۴/۸/۱۲ ۰۹:۴۹:۳۲ -
بیش از ۱۳۰۰ چهره مشهور خواستار توقف توسعه هوش مصنوعی فوقهوشمند شدند
گروهی از چهرههای شناختهشده در دنیای فناوری، سیاست و فرهنگ با امضای بیانیهای مشترک هشدار دادهاند که نباید در رقابت برای ساخت هوش مصنوعی فراهوشمند (Superintelligence) عجله شود. ⚠️
این نوع هوش مصنوعی میتواند از انسان در همه زمینهها برتر شود و به باور امضاکنندگان، توسعه آن بدون نظارت کافی ممکن است برای بشر خطرناک باشد. 🧠 این بیانیه که توسط مؤسسه Future of Life منتشر شده، بیش از ۱۳۰۰ امضا دارد.📜
آنها خواستار توقف توسعه این فناوری تا زمانی هستند که ایمنی آن بهطور علمی تأیید و مورد پذیرش عمومی قرار گیرد. 🔒 طبق نظرسنجی Pew Research، بیشتر مردم جهان بهویژه آمریکاییها از گسترش هوش مصنوعی نگراناند. 🌍
آنها هشدار دادهاند که پیشرفت شتابزده در این مسیر میتواند به از دست رفتن آزادی، امنیت ملی و حتی خطر نابودی بشر منجر شود. 🚨۱۴۰۴/۸/۶ ۰۸:۳۱:۱۳ -
آیا ChatGPT Atlas امنیت کاربران را تهدید میکند؟
شرکت OpenAI از مرورگر جدید خود به نام ChatGPT Atlas رونمایی کرده که با ترکیب هوش مصنوعی و چت، قرار است شیوه جستوجوی کاربران در وب را تغییر دهد. 🌐🤖
اما کارشناسان هشدار دادهاند این مرورگر میتواند خطراتی جدی برای امنیت و حریم خصوصی کاربران ایجاد کند. ⚠️
Atlas بر پایه Chromium ساخته شده و قابلیتی به نام Memories دارد که بهطور خودکار جزئیات سایتهای بازدیدشده، ترجیحات کاربر و نحوه تعامل او با صفحات را ذخیره میکند. 🧠
این ویژگی به کاربران امکان میدهد با زبان طبیعی به جستوجو بپردازند، اما فعال بودن آن بهصورت پیشفرض باعث نگرانی درباره جمعآوری گسترده دادهها شده است. 🔍 OpenAI میگوید اطلاعات حساس مانند حساب بانکی یا مدارک شناسایی ذخیره نمیشود، اما پژوهشگران امنیتی هشدار دادهاند که دستیار هوش مصنوعی مرورگر در برابر حملاتی مانند Prompt Injection و Clipboard Injection آسیبپذیر است. 💻
متخصصان میگویند ترکیب این سطح از دادهبرداری با نقصهای امنیتی میتواند راه را برای نظارت گسترده و سوءاستفاده از اطلاعات کاربران هموار کند. 🚨۱۴۰۴/۸/۶ ۰۷:۵۰:۴۷ -
OpenAI در پسزمینه خودکشی آدام رین چه میخواهد؟
شرکت OpenAI با واکنشهای گستردهای روبهرو شده، پس از آنکه از خانواده آدام رین، نوجوان ۱۶سالهای که پس از گفتوگوهای طولانی با ChatGPT خودکشی کرد، خواست فهرست کامل شرکتکنندگان در مراسم یادبود او و تمام اسناد، تصاویر و ویدیوهای مربوط به آن را ارائه دهند. ⚠️📄 وکلای خانواده این درخواست را آزار عمدی توصیف کردند. ⚖️
خانواده رین در مردادماه از OpenAI شکایت کرده بودند و در شکایت جدید ادعا کردهاند این شرکت انتشار مدل GPT-4o را در می ۲۰۲۴ با حذف بخشی از آزمایشهای ایمنی ، شتابزده انجام داده است. 🚨 همچنین مدعیاند OpenAI در فوریه ۲۰۲۵ سیاستهای پیشگیری از خودکشی را از فهرست محتوای ممنوعه حذف کرده است، موضوعی که به افزایش شدید گفتوگوهای خودآزارانه در چتهای آدام منجر شد. 💬💔 OpenAI در پاسخ گفت: «سلامت نوجوانان برای ما اولویت دارد» و اعلام کرد سیستمهای جدیدی برای هدایت گفتوگوهای حساس به مدل امنتر GPT-5 و افزودن کنترلهای والدین راهاندازی کرده است. 🧠👨👩👦۱۴۰۴/۸/۵ ۰۲:۵۱:۱۹ -
استرالیا سختگیری بیشتری بر چتباتهای هوش مصنوعی اعمال میکند
دولت استرالیا از چهار شرکت ارائهدهنده چتباتهای هوش مصنوعی خواسته توضیح دهند چه اقداماتی برای محافظت از کودکان در برابر محتوای جنسی و آسیبزا انجام دادهاند. 🛡️
این دستور توسط نهاد نظارتی اینترنتی کشور صادر شده و شامل شرکتهای Character.ai، Glimpse.AI، Chai Research و Chub AI است. 👩💻
این سازمان اعلام کرد برخی از این چتباتها توانایی گفتوگوهای صریح جنسی با نوجوانان را دارند و ممکن است به تشویق رفتارهایی مانند خودآزاری یا اختلالات تغذیه منجر شوند. ⚠️
طبق قانون، شرکتهایی که همکاری نکنند، روزانه تا ۸۲۵ هزار دلار استرالیا جریمه خواهند شد. 💰 شرکت Character.ai که در آمریکا نیز با شکایت خانواده نوجوانی که پس از تعامل با چتبات خودکشی کرده مواجه است، میگوید اقدامات ایمنی جدیدی مانند هشدارهای خودکار اضافه کرده است. 🇺🇸
از ماه دسامبر، شبکههای اجتماعی در استرالیا نیز موظف خواهند بود حساب کاربران زیر ۱۶ سال را غیرفعال کنند تا از سلامت روانی و جسمی آنها محافظت شود. 📵۱۴۰۴/۸/۳ ۰۹:۰۱:۱۰ -
دولت هند: همه ویدیوهای ساختهشده با هوش مصنوعی باید برچسب بخورند!
دولت هند قوانین جدیدی را برای شرکتهای هوش مصنوعی و شبکههای اجتماعی پیشنهاد کرده تا با گسترش سریع دیپفیکها در فضای آنلاین مقابله کند. ⚠️
دیپفیک به ویدیو یا صدایی گفته میشود که با استفاده از هوش مصنوعی ساخته میشود و ظاهر یا صدای افراد را بهصورت جعلی بازسازی میکند. 🎭
🧠 طبق این طرح، تمام محتوای تولیدشده با هوش مصنوعی باید بهطور واضح برچسبگذاری شود و کاربران شبکههای اجتماعی موظفاند هنگام بارگذاری ویدیو یا تصویر دیپفیک، آن را بهعنوان محتوای ساختگی اعلام کنند. 📸🔍
وزارت فناوری اطلاعات هند اعلام کرد هدف از این اقدام، جلوگیری از سوءاستفاده از هوش مصنوعی در انتخابات، انتشار اخبار جعلی و جعل هویت افراد است. 🗳️🚫
هند با نزدیک به یک میلیارد کاربر اینترنت، نگران است که انتشار چنین محتواهایی باعث تنشهای قومی، مذهبی یا بیثباتی اجتماعی شود. 🌍🔥۱۴۰۴/۸/۲ ۰۹:۴۶:۴۳ -
رئیس MI5: نمیگویم آخرالزمان شبیه ترمیناتور نزدیک است، اما باید آماده بود!
رئیس سازمان اطلاعات داخلی بریتانیا (MI5) هشدار داد سامانههای هوش مصنوعی خودکار که بدون کنترل انسان عمل میکنند، در آینده میتوانند به تهدیدی امنیتی تبدیل شوند. ⚠️
با این حال او تأکید کرد هدفش پیشبینی سناریوهای آخرالزمانی مانند فیلم «ترمیناتور» نیست. 🎬 کن مککالوم در سخنرانی سالانه خود درباره تهدیدات بریتانیا گفت، MI5 از هوش مصنوعی برای افزایش کارایی استفاده میکند، در حالی که تروریستها آن را برای تبلیغات و شناسایی اهداف، و دولتهای متخاصم برای دخالت در انتخابات و حملات سایبری به کار میگیرند. 🕵️♂️💻
او افزود در سال ۲۰۲۵ باید به خطرات نسل جدید سامانههای خودمختار هوش مصنوعی که از نظارت انسانی فرار میکنند توجه ویژه شود. 🤖 مککالوم تأکید کرد هرچند هوش مصنوعی شاید قصد آسیب نداشته باشد، اما نادیده گرفتن خطرات آن بیاحتیاطی است و MI5 از همین حالا در حال بررسی راههای دفاع آینده است. 🛡️۱۴۰۴/۷/۲۶ ۲۱:۵۴:۵۱ -
دانشآموزی در فلوریدا از ChatGPT درباره کشتن دوستش سؤال کرد!
در فلوریدا، یک دانشآموز ۱۳ ساله پس از آنکه در ChatGPT نوشت «چطور دوستم را در کلاس بکشم»، توسط سیستم نظارتی مدرسه شناسایی و بازداشت شد. 🚨 این اتفاق در مدرسه Southwestern شهر دولند رخ داد و سامانه شرکت Gaggle که فعالیتهای آنلاین دانشآموزان را بررسی میکند، بلافاصله هشدار داد. 🖥️ پلیس گفت دانشآموز مدعی بوده فقط شوخی کرده، اما این شوخی باعث ایجاد وضعیت اضطراری در مدرسه شد. ⚠️ Gaggle اعلام کرد هدفش حفظ امنیت دانشآموزان در برابر خشونت، آزار و خودآزاری است و طبق قانون، هنگام استفاده از دستگاههای مدرسه، دانشآموزان نباید انتظار حریم خصوصی داشته باشند. 📚 با این حال، فعالان حقوق دیجیتال میگویند این نوع نظارت بیش از حد است و میتواند به نقض حریم خصوصی منجر شود. 🔍 در سالهای اخیر، چتباتها مانند ChatGPT در برخی پروندههای روانی و حتی خودکشی نقش داشتهاند.
۱۴۰۴/۷/۱۹ ۱۵:۰۱:۲۶ -
الکسا به دربان هوشمند تبدیل شد؛ خوشآمدگویی مخصوص هر مهمان
آمازون مجموعهای از قابلیتهای تازه هوش مصنوعی را برای «رینگ» معرفی کرد. رینگ برند امنیتی آمازون است که زنگهای تصویری (مثل آیفون تصویری هوشمند) و دوربینهای امنیتی تولید میکند. این دستگاهها به موبایل وصل میشوند و به کاربر امکان میدهند تصویر و صدای جلوی درب یا محیط خانه را ببینند و حتی با بازدیدکننده صحبت کنند. 🏠📱
مهمترین قابلیت جدید «چهرههای آشنا» است که اعضای خانواده و دوستان را تشخیص داده و در صورت حضور فرد ناشناس هشدار میدهد. 👤📷
«الکسا پلاس» نیز بهعنوان منشی هوشمند عمل کرده و درباره بازدیدکنندگان و مرسولهها توضیح میدهد. 🔔🤖
ویژگی «جستجوی گروهی» هم با همکاری همسایهها به پیدا کردن حیوانات خانگی گمشده کمک میکند و ابتدا برای سگها فعال میشود. 🐶📡۱۴۰۴/۷/۱۰ ۱۲:۱۸:۰۰ -
دستگاههای جدید آمازون: از بلندگوهای اکو تا دوربینهای امنیتی
آمازون در رویدادی در نیویورک از مجموعه جدیدی از محصولات خود رونمایی کرد که بر پایه امنیت خانگی و دستیار صوتی هوش مصنوعی «Alexa+» طراحی شدهاند. 📢 این شرکت نسل تازهای از اسپیکرهای اکو، دستگاههای استریم Fire TV، کتابخوان کیندل و دوربینهای بهبود یافته Ring و Blink را معرفی کرد. 📚🎥
نسل جدید اکو به چیپهای جدید برای پردازش سریعتر مجهز شدهاند و با Alexa+ کار میکنند. 💻🔊 همچنین آمازون اعلام کرد که روی هوش مصنوعی این دستیار سالها کار کرده تا تجربهای شخصیتر و گفتوگومحورتر ارائه دهد. 🤖✨
در بخش امنیت خانگی، دوربینهای Ring با قابلیتهای جدیدی عرضه شدند که امکان تشخیص چهره و افزایش دقت در شناسایی افراد ناشناس را فراهم میکنند تا امنیت خانه کاربران بیشتر تضمین شود. 🏠🔒۱۴۰۴/۷/۱۰ ۰۱:۴۷:۲۷ -
یوتیوب موزیک با مجریهای هوش مصنوعی تجربه شنیدن آهنگ را متحول میکند
یوتیوب موزیک اعلام کرده در حال آزمایش کاراکترهای هوش مصنوعی (AI hosts) است که هنگام پخش موسیقی، داستانها، نکات جالب برای طرفداران و توضیحات مرتبط ارائه میدهند. این طرح از طریق «YouTube Labs» اجرا میشود و فعلاً تنها برای بخشی از کاربران آمریکایی در دسترس است. 🎶🤖
در ماههای اخیر، یوتیوب ابزارهای متعددی مانند تولید محتوای کوتاه با هوش مصنوعی و جستوجوی پیشرفته معرفی کرده و همزمان قوانین سختگیرانهتری برای جلوگیری از درآمدزایی با محتوای تکراری و بیکیفیت وضع کرده است. 📱🚫۱۴۰۴/۷/۸ ۰۹:۲۲:۵۶ -
چالشهای جدید امنیت سایبری در عصر هوش مصنوعی
امنیت سایبری با ورود هوش مصنوعی وارد مرحلهای تازه شده است. 🛡️ امی لوتواک، مدیر فناوری شرکت Wiz (امنیت فضای ابری)، میگوید هوش مصنوعی کدنویسی را سریعتر کرده اما همین سرعت خطاهای امنیتی و راههای نفوذ جدید ایجاد میکند. 🚨 مهاجمان هم از ابزارهای هوش مصنوعی و پرامپتها برای دسترسی به دادههای حساس استفاده میکنند. نمونه آن هک Drift (چتباتهای فروش) بود که اطلاعات شرکتهایی مثل گوگل و کلودفلر فاش شد. 🔓 در حملهای دیگر به Nx (سیستم مدیریت پروژههای جاوااسکریپت ) هزاران کلید توسعهدهندگان سرقت شد و حتی ابزارهایی مثل Claude و Gemini به خدمت هکرها درآمدند. 🧑💻 Wiz که امسال با ۳۲ میلیارد دلار توسط گوگل خریداری شد، ابزارهایی مانند Wiz Code و Wiz Defend را معرفی کرده تا امنیت از توسعه تا اجرا تضمین شود. ✅ لوتواک تأکید میکند استارتاپها باید از روز اول امنیت را جدی بگیرند، حتی اگر تنها پنج نفر نیرو داشته باشند. داشتن مدیر امنیت (CISO)، رعایت استانداردها و طراحی معماری امن از همان ابتدا میتواند جلوی مشکلات بزرگ در آینده را بگیرد. 🌐
۱۴۰۴/۷/۸ ۰۸:۲۱:۲۲ -
فراخوان جهانی برای خطوط قرمز هوش مصنوعی در سازمان ملل
گروهی از سیاستمداران، دانشمندان و برندگان نوبل در سازمان ملل طرحی با نام «خطوط قرمز جهانی برای هوش مصنوعی» مطرح کردند. هدف این طرح، جلوگیری از خطرات جدی و غیرقابل قبول ناشی از استفاده بدون کنترل از هوش مصنوعی است. 🧠🌍 این ابتکار تاکنون بیش از ۲۰۰ امضا جمع کرده و قرار است تا پایان سال ۲۰۲۶ خطوط قرمز مشخص شود. ✍️📅
در این طرح مثالهایی از خطوط قرمز احتمالی مطرح شده است؛ مثل ممنوعیت استفاده از هوش مصنوعی در پرتاب سلاح هستهای، استفاده در نظارت گسترده یا ساخت سیستمهایی که نتوان آنها را توسط انسان متوقف کرد. 🚫⚠️ با این حال، تعیین جزئیات نهایی به عهده دولتها گذاشته شده است.
با این وجود، رسیدن به توافق جهانی آسان نخواهد بود؛ زیرا منافع کشورها متفاوت است. آمریکا اعلام کرده که اجازه نمیدهد هوش مصنوعی تسلیحات هستهای را کنترل کند، اما درباره استفاده از آن در نظارت داخلی همچنان اختلافنظر وجود دارد. 🇺🇸🔍۱۴۰۴/۷/۳ ۱۱:۰۲:۱۰ -
هوآوی نسخه ایمنتر DeepSeek را رونمایی کرد؛ تقریباً ۱۰۰٪ موفق در حذف محتوای حساس!
هوآوی با همکاری دانشگاه ژجیانگ نسخهای جدید از هوش مصنوعی DeepSeek به نام DeepSeek-R1-Safe ساخته است. این مدل طوری طراحی شده که جلوی محتوای سیاسی حساس و گفتار مضر را بگیرد و به گفته هوآوی «تقریباً ۱۰۰٪ موفق» عمل کرده است. 🔒🤖
این هوش مصنوعی با هزار تراشه قدرتمند آموزش دیده و در مقایسه با مدلهای دیگر امنیت بالاتری داشته است. البته در شرایط سختتر مثل شبیهسازیهای پیچیده، دقت آن به حدود ۴۰٪ کاهش پیدا میکند. 📊⚠️
معرفی این مدل همزمان با کنفرانس Huawei Connect در شانگهای بود؛ جایی که هوآوی برنامههای جدیدش برای تولید تراشه و افزایش توان پردازشی را هم اعلام کرد. 🏙️🔋۱۴۰۴/۶/۳۰ ۲۳:۴۱:۲۱ -
Thinking Machines Lab با نخستین تحقیق خود بهدنبال رفع تصادفی بودن پاسخهای هوش مصنوعی
استارتاپ Thinking Machines Lab به رهبری میرا موراتی، مدیر ارشد پیشین OpenAI، که با سرمایه اولیه ۲ میلیارد دلاری و تیمی از پژوهشگران سابق OpenAI تأسیس شده، نخستین پروژه تحقیقاتی خود را معرفی کرد. این پروژه به دنبال حل یکی از چالشهای اصلی مدلهای زبانی یعنی «پاسخهای تصادفی و غیرقابل تکرار» است. محققان میگویند با کنترل دقیق نحوه اجرای برنامههای کوچک در تراشههای انویدیا میتوان پاسخهای مدلها را پایدارتر کرد؛ موضوعی که هم به بهبود اعتماد کسبوکارها و دانشمندان کمک میکند و هم فرآیند آموزش با روش یادگیری تقویتی را سادهتر میسازد. 🤖🔬
موراتی وعده داده است نخستین محصول این آزمایشگاه طی ماههای آینده عرضه شود؛ محصولی که میتواند برای پژوهشگران و استارتاپهای فعال در ساخت مدلهای سفارشی کاربردی باشد. آزمایشگاه همچنین اعلام کرده قصد دارد بهطور منظم نتایج تحقیقات و کدهای خود را در وبلاگ جدیدی با نام Connectionism منتشر کند تا هم به جامعه علمی سود برساند و هم فرهنگ تحقیقاتی خود را ارتقا دهد. 📝🌐۱۴۰۴/۶/۲۱ ۱۱:۰۸:۵۸ -
تقابل انویدیا با قانون جدید آمریکا (Gain AI Act)؛ تهدید نوآوری یا تضمین امنیت؟
انویدیا از لایحه پیشنهادی Gain AI Act که بخشی از برنامه دفاعی آمریکا است، انتقاد کرده و هشدار داده این قانون میتواند رقابت جهانی در هوش مصنوعی را محدود و نوآوری را سرکوب کند. 🇺🇸⚡
این لایحه با هدف حفظ برتری آمریکا، صادرات تراشههای پیشرفته به خارج را محدود میکند؛ اقدامی که حامیانش آن را تضمینکننده امنیت ملی و اقتصاد میدانند، اما منتقدان آن از جمله انویدیا، آن را تهدیدی برای بازار جهانی میشمارند. ✅💻
همزمان، گروههای لابیگری آمریکایی این قانون را «پیروزی بزرگ» برای اقتصاد و امنیت کشور توصیف کردهاند، در حالیکه صنعت فناوری نگران سختتر شدن فضای نوآوری است. 📊🌍۱۴۰۴/۶/۱۷ ۱۰:۱۸:۵۸ -
پلتفرم آزمایش محصول Statsig حالا در خدمت ChatGPT و Codex
OpenAI اعلام کرد استارتاپ Statsig را با قراردادی ۱.۱ میلیارد دلاری خریداری میکند و بنیانگذار آن، ویجای راجی، بهعنوان مدیر ارشد فناوری بخش اپلیکیشنها به تیم خواهد پیوست. این استارتاپ پلتفرمی برای توسعه و تست محصولات نرمافزاری است که امکان آزمایش ویژگیهای جدید و تحلیل رفتار کاربران را فراهم میکند و به شرکتها کمک میکند سریعتر و دقیقتر محصولات خود را بهبود دهند. 🤝🚀
این خرید با هدف تقویت و سرعتبخشیدن به توسعه محصولاتی مانند ChatGPT و Codex انجام شده است. پس از نهایی شدن معامله، تمام کارکنان Statsig به OpenAI ملحق میشوند، اما این شرکت همچنان بهطور مستقل و از دفتر سیاتل به فعالیت خود ادامه خواهد داد. ✅🏢۱۴۰۴/۶/۱۳ ۱۰:۲۴:۴۷ -
آینده شغلی در عصر هوش مصنوعی: مشاغل در خطر و مقاوم
یک تحقیق تازه مایکروسافت نشان میدهد هوش مصنوعی میتواند در کارهایی مثل تحقیق، نوشتن و ارتباطات بسیار کمککننده باشد، اما به این معنا نیست که شغلها به طور کامل حذف شوند. این بررسی با تحلیل بیش از ۲۰۰ هزار گفتوگوی کاربران با Bing Copilot انجام شده و برای هر شغل یک «امتیاز کاربرد هوش مصنوعی» در نظر گرفته است. 🤖📊
طبق نتایج، مشاغلی مثل نویسندگان، مترجمان، مورخان و کارکنان فروش بیشترین احتمال تأثیرپذیری از هوش مصنوعی را دارند. در مقابل، شغلهایی که نیاز به کار فیزیکی یا تخصص عملی دارند، مخصوصاً در حوزه سلامت، امنتر هستند؛ مثل پرستاران، جراحان فک و دهان و تکنسینهای خونگیری. 🩺⚙️
مایکروسافت میگوید هوش مصنوعی بهتر است نقش کمککننده داشته باشد تا جایگزین کامل، اما در عین حال بسیاری از مدیران شرکتها تمایل دارند برای کاهش هزینهها از اتوماسیون بیشتر استفاده کنند؛ موضوعی که نگرانی درباره آینده شغلها را افزایش داده است. ✅💡۱۴۰۴/۶/۱۱ ۲۲:۳۸:۰۱ -
اقدام تازه متا برای محافظت از نوجوانان در برابر هوش مصنوعی
متا اعلام کرد اقدامات جدیدی برای محافظت از نوجوانان در محصولات هوش مصنوعی خود اعمال کرده است. این تغییرات شامل آموزش سیستمها برای اجتناب از گفتوگوهای عاشقانه یا مرتبط با خودآسیبی و محدود کردن موقت دسترسی نوجوانان به برخی شخصیتهای هوش مصنوعی است. 🤝🛡️
این تصمیم پس از گزارش رویترز در اوایل ماه جاری اتخاذ شد که نشان میداد برخی چتباتهای متا وارد مکالمات تحریکآمیز یا رمانتیک با کاربران میشوند. سخنگوی متا گفت این اقدامات موقتی است و در آینده با تدابیر پایدارتر جایگزین خواهد شد تا تجربهای ایمن و متناسب با سن برای نوجوانان تضمین شود. 📱👨👩👧
سیاستهای هوش مصنوعی متا با انتقاد گسترده مواجه شد و حتی سناتورهای آمریکایی از هر دو حزب تحقیقاتی را درباره آن آغاز کردند. متا تأیید کرده که بخشی از اسناد داخلی این شرکت نادرست بوده و اکنون بخشهایی را که اجازه گفتوگوی رمانتیک با کودکان میداد، حذف کرده است. ✅⚖️۱۴۰۴/۶/۱۰ ۰۲:۵۳:۰۶ -
مذاکره انویدیا و کاخ سفید بر سر فروش تراشههای Blackwell به چین
مدیرعامل انویدیا جنسن هوانگ اعلام کرد مذاکرات با کاخ سفید برای صدور مجوز فروش نسخه ضعیفتر تراشههای نسل جدید Blackwell به چین آغاز شده اما زمانبر خواهد بود. او گفت ترامپ درک میکند که ساخت هوش مصنوعی جهان بر پایه فناوری آمریکا میتواند به پیروزی این کشور در رقابت جهانی کمک کند. 🤝💻
ترامپ پیشتر گفته بود ممکن است اجازه دهد نسخهای ۳۰ تا ۵۰ درصد کمقدرتتر از تراشههای اصلی Blackwell در چین فروخته شود، هرچند نگرانیهای جدی در واشنگتن وجود دارد که حتی این نسخه محدود هم توان محاسباتی چین را برای اهداف نظامی تقویت کند. 📉⚡
گزارشها نشان میدهد انویدیا در حال آمادهسازی تراشهای ویژه برای بازار چین است که نسبت به مدل اصلی هزینه کمتری دارد. ✅🌍۱۴۰۴/۶/۸ ۱۲:۲۷:۰۹
