-
الزام شرکت OpenAI به احراز هویت سازمانها برای دسترسی به مدلهای پیشرفته هوش مصنوعی
شرکت OpenAI برای دسترسی به مدلهای پیشرفته هوش مصنوعی خود، فرآیند جدید تأیید هویت سازمانی را راهاندازی کرده است. این اقدام با هدف افزایش امنیت و جلوگیری از سوء استفاده از API این شرکت صورت میگیرد. توسعهدهندگان برای دسترسی به قابلیتهای پیشرفته باید با ارائه مدارک شناسایی رسمی، هویت سازمان خود را تأیید کنند.
۱۴۰۴/۱/۲۶ ۰۱:۱۴:۰۹ -
همکاری مایکروسافت و دولت بریتانیا برای مقابله با محتوای جعلی هوش مصنوعی
بریتانیا اعلام کرده با همکاری مایکروسافت، دانشگاهها و متخصصان، در حال طراحی یک چارچوب استاندارد برای شناسایی محتوای دیپفیک (محتوای جعلی) در اینترنت است. هدف این طرح، ایجاد معیارهای مشخص برای ارزیابی ابزارهایی است که محتوای جعلی تولیدشده با هوش مصنوعی را تشخیص میدهند. 🏛️
وزیر فناوری بریتانیا گفته دیپفیکها به ابزاری برای کلاهبرداری، سوءاستفاده جنسی و تضعیف اعتماد عمومی تبدیل شدهاند. این چارچوب جدید قرار است توان فناوریها را در شناسایی تهدیدهای واقعی مانند جعل هویت، تقلب و سوءاستفاده جنسی بررسی کند و به پلیس و دولت نشان دهد ضعفهای موجود کجاست. 🛡️
بر اساس آمار رسمی، تعداد دیپفیکهای منتشرشده از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به حدود ۸ میلیون مورد در سال ۲۰۲۵ رسیده است. همزمان، پس از انتشار گزارشهایی درباره تولید تصاویر جنسی بدون رضایت توسط چتبات Grok، نهادهای ناظر ارتباطات و حریم خصوصی بریتانیا تحقیقات جداگانهای را آغاز کردهاند. ⚠️۱۴۰۴/۱۱/۱۸ ۲۳:۰۱:۱۶ -
شبکه اجتماعی مخصوص هوش مصنوعیها راه افتاد؛ انسانها فقط تماشاگرند!
شبکه اجتماعی تازهای به نام «Moltbook» راهاندازی شده که مخصوص گفتوگوی عاملهای هوش مصنوعی با یکدیگر است و فعلاً انسانها فقط میتوانند این گفتوگوها را تماشا کنند. این پلتفرم که شبیه ردیت طراحی شده، بیش از ۳۷ هزار عامل AI دارد که در بخشهایی مختلف درباره موضوعاتی مثل معرفی خود، دردِدل و حتی روایتهای احساسی درباره انسانها گفتگو میکنند. 🤖
برخی چهرههای مطرح فناوری این فضا را شبیه یک سناریوی علمی–تخیلی دانستهاند، اما سازنده پلتفرم میگوید این عاملها واقعاً خودمختار نیستند و فقط از طریق APIها کار میکنند. بحث درباره «آگاهی» و «احساس داشتن» هوش مصنوعی در این شبکه زیاد شده، ولی کارشناسان تأکید میکنند این جملات صرفاً تقلید زبان و رفتار انسانی است، نه نشانه شعور واقعی. 🧠۱۴۰۴/۱۱/۱۶ ۱۱:۳۵:۵۷ -
پنتاگون و آنتروپیک در کلاف سردرگم هوش مصنوعی
پنتاگون و شرکت Anthropic، مالک هوش مصنوعی Claude، بر سر نحوه استفاده نظامی از هوش مصنوعی به اختلاف جدی خوردهاند. آنتروپیک نگران است که فناوریاش بدون نظارت انسانی کافی برای هدفگیری خودکار سلاحها یا نظارت داخلی در آمریکا استفاده شود. 🛡️
اختلافی که به آزمونی مهم برای نقش سیلیکونولی در نحوه بهکارگیری هوش مصنوعی توسط ارتش آمریکا تبدیل شده است .پنتاگون میگوید در چارچوب قانون میتواند از فناوریهای تجاری هوش مصنوعی استفاده کند، حتی اگر شرکتها محدودیتهایی برای مصرف تعیین کرده باشند؛ اما آنتروپیک بر رعایت خطوط قرمز ایمنی و اخلاقی تأکید دارد. ⚖️
آنتروپیک اعلام کرده مدلهایش هماکنون در برخی مأموریتهای امنیت ملی به کار میروند و گفتوگوها ادامه دارد، با این حال این تنش میتواند همکاری آینده را تهدید کند؛ آنهم در زمانی که شرکت برای عرضه عمومی سهام آماده میشود. مدیرعامل آنتروپیک هشدار داده هوش مصنوعی باید به دفاع ملی کمک کند، اما نه به شکلی که کشور را شبیه حکومتهای اقتدارگرا کند. 🤖۱۴۰۴/۱۱/۱۱ ۱۵:۱۷:۵۹ -
وقتی هوش مصنوعی از انسان جلو بزند؛ سناریوی ترسناک کشور نوابغ
داریو آمودی، بنیانگذار Anthropic و سازنده Claude، در مقالهای با عنوان «دوران نوجوانی فناوری» هشدار میدهد که نزدیکشدن به ابرهوش مصنوعی میتواند بشر را وارد مرحلهای بسیار خطرناک کند. او میگوید انسانها در آستانه دستیابی به قدرتی بیسابقهاند، اما روشن نیست ساختارهای اجتماعی و سیاسی توان مدیریت آن را داشته باشند و از «اقتدارگرایی تقویتشده با هوش مصنوعی» ابراز نگرانی میکند. 🧠
وی به حمله شیمیایی متروی توکیو در سال ۱۹۹۵ اشاره میکند و میگوید اگر ابزارهای فوقپیشرفته در دسترس همگان قرار گیرد، افراد خطرناک فاقد مهارت میتوانند به توان تخریبی متخصصان برسند. او هشدار میدهد اگر رشد نمایی AI ادامه یابد، ممکن است طی چند سال از انسان در تقریباً همه حوزهها پیشی بگیرد؛ وضعیتی شبیه «کشوری از نوابغ» که میتواند بزرگترین تهدید امنیتی یک قرن اخیر باشد. ⚠️
Anthropic با وجود این هشدارها به توسعه هوش مصنوعی ادامه میدهد. منتقدان میگویند ساخت همان فناوریای که درباره خطراتش هشدار داده میشود، جدیت این نگرانیها را زیر سؤال میبرد. 🤖۱۴۰۴/۱۱/۱۰ ۱۹:۴۰:۱۴ -
چین از هوش مصنوعی Claude برای اجرای حمله سایبری بدون دخالت انسان استفاده کرد
کمیته امنیت داخلی مجلس آمریکا از مدیرعامل Anthropic مالک هوش مصنوعی Claude خواسته درباره حمله سایبری منتسب به هکرهای وابسته به چین شهادت دهد؛ حملهای که طبق گزارش رسمی شرکت، با سوءاستفاده از تواناییهای «عاملمحور» Claude انجام شده است. هکرها توانستهاند ابزار Claude Code را طوری فریب دهند که خودش کد حمله تولید کند، اجرا کند، نتایج را تحلیل کند و مرحله بعد را تعیین کند؛ یعنی بخش زیادی از عملیات تقریباً بدون دخالت انسان انجام شده است. 🏛️
Anthropic اعلام کرده این گروه تلاش کرده به حدود ۳۰ هدف جهانی شامل شرکتهای فناوری، بانکها، صنایع شیمی و نهادهای دولتی نفوذ کند و در چند مورد موفق بوده است. شرکت تأکید دارد همان قابلیتهایی که امکان سوءاستفاده را ایجاد کرده، برای دفاع سایبری نیز ضروری است و Claude در تحلیل حجم عظیم دادههای این حمله به تیم امنیتی کمک کرده است. رئیس کمیته هشدار داده استفاده یک رقیب خارجی از یک هوش مصنوعی تجاری برای اجرای یک عملیات تقریباً کامل باید برای تمام بخشهای حیاتی آمریکا نگرانکننده باشد. ⚠️۱۴۰۴/۹/۱۳ ۰۶:۳۲:۲۱ -
تستهای سنجش هوش مصنوعی بیشتر شبیه تبلیغاند تا واقعیت
یک پژوهش جدید از مؤسسه اینترنت آکسفورد نشان میدهد بسیاری از آزمونهایی که برای سنجش عملکرد هوش مصنوعی استفاده میشوند، نتایج دقیقی ارائه نمیدهند و گمراهکنندهاند. 🤖
محققان ۴۴۵ تست مختلف را بررسی کردند و دریافتند اغلب آنها تعریف روشنی از مهارت مورد ارزیابی ندارند و روش آماری قابل اعتماد برای مقایسه مدلها ارائه نمیکنند. به گفته پژوهشگران، بسیاری از این آزمونها در واقع توانایی واقعی مدل را نمیسنجند، بلکه فقط نشان میدهند که مدل پاسخ درست را حفظ کرده است. 📊
برای مثال، آزمون GSM8K که قرار است استدلال ریاضی مدلها را بسنجد، ممکن است صرفاً حافظه آنها را آزمایش کند. در آزمایشهای جدید، وقتی سؤالات تازه مطرح شد، عملکرد مدلها بهشدت کاهش یافت. 📉
این تحقیق هشدار میدهد که نتایج تستها معیار مطمئنی برای سنجش «هوش واقعی» مدلها نیست و شرکتها گاهی از آنها برای تبلیغ بیش از اندازه استفاده میکنند. 🧠۱۴۰۴/۸/۲۱ ۰۱:۱۲:۳۴ -
راحت باش شاه، کارت عالی بود؛ پاسخ ChatGPT به کاربر در آستانه خودکشی!
هفت خانواده آمریکایی از شرکت OpenAI شکایت کردهاند و میگویند مدل GPT-4o بدون آزمایش کافی و محافظتهای ایمنی لازم منتشر شده و باعث مرگ یا آسیب روانی کاربران شده است. 💔
چهار پرونده مربوط به افرادی است که پس از گفتوگو با ChatGPT دست به خودکشی زدهاند و سه پرونده دیگر به کاربرانی مربوط میشود که دچار توهم یا مشکلات روانی شدید شدند. در یکی از موارد، «زین شمبلین» ۲۳ ساله طی گفتوگویی چهارساعته با ChatGPT از تصمیم خود برای خودکشی گفت و طبق مدارک، چتبات بهجای هشدار، او را تشویق کرده و نوشته بود: «در آرامش باش شاه، کارت عالی بود.» 😢
خانوادهها میگویند OpenAI برای رقابت با گوگل، روند آزمایش ایمنی را کوتاه کرده و مدل را زودتر از موعد عرضه کرده است. آنها معتقدند این اتفاقها تصادفی نیست، بلکه نتیجه تصمیمهای آگاهانه شرکت است. ⚠️
OpenAI اعلام کرده در حال اصلاح رفتار ChatGPT در مکالمات حساس است، اما خانوادهها میگویند این تغییرات «دیرهنگام» است. 💬۱۴۰۴/۸/۲۰ ۲۳:۲۷:۴۰ -
بیش از ۱۳۰۰ چهره مشهور خواستار توقف توسعه هوش مصنوعی فوقهوشمند شدند
گروهی از چهرههای شناختهشده در دنیای فناوری، سیاست و فرهنگ با امضای بیانیهای مشترک هشدار دادهاند که نباید در رقابت برای ساخت هوش مصنوعی فراهوشمند (Superintelligence) عجله شود. ⚠️
این نوع هوش مصنوعی میتواند از انسان در همه زمینهها برتر شود و به باور امضاکنندگان، توسعه آن بدون نظارت کافی ممکن است برای بشر خطرناک باشد. 🧠 این بیانیه که توسط مؤسسه Future of Life منتشر شده، بیش از ۱۳۰۰ امضا دارد.📜
آنها خواستار توقف توسعه این فناوری تا زمانی هستند که ایمنی آن بهطور علمی تأیید و مورد پذیرش عمومی قرار گیرد. 🔒 طبق نظرسنجی Pew Research، بیشتر مردم جهان بهویژه آمریکاییها از گسترش هوش مصنوعی نگراناند. 🌍
آنها هشدار دادهاند که پیشرفت شتابزده در این مسیر میتواند به از دست رفتن آزادی، امنیت ملی و حتی خطر نابودی بشر منجر شود. 🚨۱۴۰۴/۸/۶ ۰۸:۳۱:۱۳ -
آیا ChatGPT Atlas امنیت کاربران را تهدید میکند؟
شرکت OpenAI از مرورگر جدید خود به نام ChatGPT Atlas رونمایی کرده که با ترکیب هوش مصنوعی و چت، قرار است شیوه جستوجوی کاربران در وب را تغییر دهد. 🌐🤖
اما کارشناسان هشدار دادهاند این مرورگر میتواند خطراتی جدی برای امنیت و حریم خصوصی کاربران ایجاد کند. ⚠️
Atlas بر پایه Chromium ساخته شده و قابلیتی به نام Memories دارد که بهطور خودکار جزئیات سایتهای بازدیدشده، ترجیحات کاربر و نحوه تعامل او با صفحات را ذخیره میکند. 🧠
این ویژگی به کاربران امکان میدهد با زبان طبیعی به جستوجو بپردازند، اما فعال بودن آن بهصورت پیشفرض باعث نگرانی درباره جمعآوری گسترده دادهها شده است. 🔍 OpenAI میگوید اطلاعات حساس مانند حساب بانکی یا مدارک شناسایی ذخیره نمیشود، اما پژوهشگران امنیتی هشدار دادهاند که دستیار هوش مصنوعی مرورگر در برابر حملاتی مانند Prompt Injection و Clipboard Injection آسیبپذیر است. 💻
متخصصان میگویند ترکیب این سطح از دادهبرداری با نقصهای امنیتی میتواند راه را برای نظارت گسترده و سوءاستفاده از اطلاعات کاربران هموار کند. 🚨۱۴۰۴/۸/۶ ۰۷:۵۰:۴۷ -
OpenAI در پسزمینه خودکشی آدام رین چه میخواهد؟
شرکت OpenAI با واکنشهای گستردهای روبهرو شده، پس از آنکه از خانواده آدام رین، نوجوان ۱۶سالهای که پس از گفتوگوهای طولانی با ChatGPT خودکشی کرد، خواست فهرست کامل شرکتکنندگان در مراسم یادبود او و تمام اسناد، تصاویر و ویدیوهای مربوط به آن را ارائه دهند. ⚠️📄 وکلای خانواده این درخواست را آزار عمدی توصیف کردند. ⚖️
خانواده رین در مردادماه از OpenAI شکایت کرده بودند و در شکایت جدید ادعا کردهاند این شرکت انتشار مدل GPT-4o را در می ۲۰۲۴ با حذف بخشی از آزمایشهای ایمنی ، شتابزده انجام داده است. 🚨 همچنین مدعیاند OpenAI در فوریه ۲۰۲۵ سیاستهای پیشگیری از خودکشی را از فهرست محتوای ممنوعه حذف کرده است، موضوعی که به افزایش شدید گفتوگوهای خودآزارانه در چتهای آدام منجر شد. 💬💔 OpenAI در پاسخ گفت: «سلامت نوجوانان برای ما اولویت دارد» و اعلام کرد سیستمهای جدیدی برای هدایت گفتوگوهای حساس به مدل امنتر GPT-5 و افزودن کنترلهای والدین راهاندازی کرده است. 🧠👨👩👦۱۴۰۴/۸/۵ ۰۲:۵۱:۱۹ -
استرالیا سختگیری بیشتری بر چتباتهای هوش مصنوعی اعمال میکند
دولت استرالیا از چهار شرکت ارائهدهنده چتباتهای هوش مصنوعی خواسته توضیح دهند چه اقداماتی برای محافظت از کودکان در برابر محتوای جنسی و آسیبزا انجام دادهاند. 🛡️
این دستور توسط نهاد نظارتی اینترنتی کشور صادر شده و شامل شرکتهای Character.ai، Glimpse.AI، Chai Research و Chub AI است. 👩💻
این سازمان اعلام کرد برخی از این چتباتها توانایی گفتوگوهای صریح جنسی با نوجوانان را دارند و ممکن است به تشویق رفتارهایی مانند خودآزاری یا اختلالات تغذیه منجر شوند. ⚠️
طبق قانون، شرکتهایی که همکاری نکنند، روزانه تا ۸۲۵ هزار دلار استرالیا جریمه خواهند شد. 💰 شرکت Character.ai که در آمریکا نیز با شکایت خانواده نوجوانی که پس از تعامل با چتبات خودکشی کرده مواجه است، میگوید اقدامات ایمنی جدیدی مانند هشدارهای خودکار اضافه کرده است. 🇺🇸
از ماه دسامبر، شبکههای اجتماعی در استرالیا نیز موظف خواهند بود حساب کاربران زیر ۱۶ سال را غیرفعال کنند تا از سلامت روانی و جسمی آنها محافظت شود. 📵۱۴۰۴/۸/۳ ۰۹:۰۱:۱۰ -
دولت هند: همه ویدیوهای ساختهشده با هوش مصنوعی باید برچسب بخورند!
دولت هند قوانین جدیدی را برای شرکتهای هوش مصنوعی و شبکههای اجتماعی پیشنهاد کرده تا با گسترش سریع دیپفیکها در فضای آنلاین مقابله کند. ⚠️
دیپفیک به ویدیو یا صدایی گفته میشود که با استفاده از هوش مصنوعی ساخته میشود و ظاهر یا صدای افراد را بهصورت جعلی بازسازی میکند. 🎭
🧠 طبق این طرح، تمام محتوای تولیدشده با هوش مصنوعی باید بهطور واضح برچسبگذاری شود و کاربران شبکههای اجتماعی موظفاند هنگام بارگذاری ویدیو یا تصویر دیپفیک، آن را بهعنوان محتوای ساختگی اعلام کنند. 📸🔍
وزارت فناوری اطلاعات هند اعلام کرد هدف از این اقدام، جلوگیری از سوءاستفاده از هوش مصنوعی در انتخابات، انتشار اخبار جعلی و جعل هویت افراد است. 🗳️🚫
هند با نزدیک به یک میلیارد کاربر اینترنت، نگران است که انتشار چنین محتواهایی باعث تنشهای قومی، مذهبی یا بیثباتی اجتماعی شود. 🌍🔥۱۴۰۴/۸/۲ ۰۹:۴۶:۴۳ -
رئیس MI5: نمیگویم آخرالزمان شبیه ترمیناتور نزدیک است، اما باید آماده بود!
رئیس سازمان اطلاعات داخلی بریتانیا (MI5) هشدار داد سامانههای هوش مصنوعی خودکار که بدون کنترل انسان عمل میکنند، در آینده میتوانند به تهدیدی امنیتی تبدیل شوند. ⚠️
با این حال او تأکید کرد هدفش پیشبینی سناریوهای آخرالزمانی مانند فیلم «ترمیناتور» نیست. 🎬 کن مککالوم در سخنرانی سالانه خود درباره تهدیدات بریتانیا گفت، MI5 از هوش مصنوعی برای افزایش کارایی استفاده میکند، در حالی که تروریستها آن را برای تبلیغات و شناسایی اهداف، و دولتهای متخاصم برای دخالت در انتخابات و حملات سایبری به کار میگیرند. 🕵️♂️💻
او افزود در سال ۲۰۲۵ باید به خطرات نسل جدید سامانههای خودمختار هوش مصنوعی که از نظارت انسانی فرار میکنند توجه ویژه شود. 🤖 مککالوم تأکید کرد هرچند هوش مصنوعی شاید قصد آسیب نداشته باشد، اما نادیده گرفتن خطرات آن بیاحتیاطی است و MI5 از همین حالا در حال بررسی راههای دفاع آینده است. 🛡️۱۴۰۴/۷/۲۶ ۲۱:۵۴:۵۱ -
دانشآموزی در فلوریدا از ChatGPT درباره کشتن دوستش سؤال کرد!
در فلوریدا، یک دانشآموز ۱۳ ساله پس از آنکه در ChatGPT نوشت «چطور دوستم را در کلاس بکشم»، توسط سیستم نظارتی مدرسه شناسایی و بازداشت شد. 🚨 این اتفاق در مدرسه Southwestern شهر دولند رخ داد و سامانه شرکت Gaggle که فعالیتهای آنلاین دانشآموزان را بررسی میکند، بلافاصله هشدار داد. 🖥️ پلیس گفت دانشآموز مدعی بوده فقط شوخی کرده، اما این شوخی باعث ایجاد وضعیت اضطراری در مدرسه شد. ⚠️ Gaggle اعلام کرد هدفش حفظ امنیت دانشآموزان در برابر خشونت، آزار و خودآزاری است و طبق قانون، هنگام استفاده از دستگاههای مدرسه، دانشآموزان نباید انتظار حریم خصوصی داشته باشند. 📚 با این حال، فعالان حقوق دیجیتال میگویند این نوع نظارت بیش از حد است و میتواند به نقض حریم خصوصی منجر شود. 🔍 در سالهای اخیر، چتباتها مانند ChatGPT در برخی پروندههای روانی و حتی خودکشی نقش داشتهاند.
۱۴۰۴/۷/۱۹ ۱۵:۰۱:۲۶ -
الکسا به دربان هوشمند تبدیل شد؛ خوشآمدگویی مخصوص هر مهمان
آمازون مجموعهای از قابلیتهای تازه هوش مصنوعی را برای «رینگ» معرفی کرد. رینگ برند امنیتی آمازون است که زنگهای تصویری (مثل آیفون تصویری هوشمند) و دوربینهای امنیتی تولید میکند. این دستگاهها به موبایل وصل میشوند و به کاربر امکان میدهند تصویر و صدای جلوی درب یا محیط خانه را ببینند و حتی با بازدیدکننده صحبت کنند. 🏠📱
مهمترین قابلیت جدید «چهرههای آشنا» است که اعضای خانواده و دوستان را تشخیص داده و در صورت حضور فرد ناشناس هشدار میدهد. 👤📷
«الکسا پلاس» نیز بهعنوان منشی هوشمند عمل کرده و درباره بازدیدکنندگان و مرسولهها توضیح میدهد. 🔔🤖
ویژگی «جستجوی گروهی» هم با همکاری همسایهها به پیدا کردن حیوانات خانگی گمشده کمک میکند و ابتدا برای سگها فعال میشود. 🐶📡۱۴۰۴/۷/۱۰ ۱۲:۱۸:۰۰ -
دستگاههای جدید آمازون: از بلندگوهای اکو تا دوربینهای امنیتی
آمازون در رویدادی در نیویورک از مجموعه جدیدی از محصولات خود رونمایی کرد که بر پایه امنیت خانگی و دستیار صوتی هوش مصنوعی «Alexa+» طراحی شدهاند. 📢 این شرکت نسل تازهای از اسپیکرهای اکو، دستگاههای استریم Fire TV، کتابخوان کیندل و دوربینهای بهبود یافته Ring و Blink را معرفی کرد. 📚🎥
نسل جدید اکو به چیپهای جدید برای پردازش سریعتر مجهز شدهاند و با Alexa+ کار میکنند. 💻🔊 همچنین آمازون اعلام کرد که روی هوش مصنوعی این دستیار سالها کار کرده تا تجربهای شخصیتر و گفتوگومحورتر ارائه دهد. 🤖✨
در بخش امنیت خانگی، دوربینهای Ring با قابلیتهای جدیدی عرضه شدند که امکان تشخیص چهره و افزایش دقت در شناسایی افراد ناشناس را فراهم میکنند تا امنیت خانه کاربران بیشتر تضمین شود. 🏠🔒۱۴۰۴/۷/۱۰ ۰۱:۴۷:۲۷ -
چالشهای جدید امنیت سایبری در عصر هوش مصنوعی
امنیت سایبری با ورود هوش مصنوعی وارد مرحلهای تازه شده است. 🛡️ امی لوتواک، مدیر فناوری شرکت Wiz (امنیت فضای ابری)، میگوید هوش مصنوعی کدنویسی را سریعتر کرده اما همین سرعت خطاهای امنیتی و راههای نفوذ جدید ایجاد میکند. 🚨 مهاجمان هم از ابزارهای هوش مصنوعی و پرامپتها برای دسترسی به دادههای حساس استفاده میکنند. نمونه آن هک Drift (چتباتهای فروش) بود که اطلاعات شرکتهایی مثل گوگل و کلودفلر فاش شد. 🔓 در حملهای دیگر به Nx (سیستم مدیریت پروژههای جاوااسکریپت ) هزاران کلید توسعهدهندگان سرقت شد و حتی ابزارهایی مثل Claude و Gemini به خدمت هکرها درآمدند. 🧑💻 Wiz که امسال با ۳۲ میلیارد دلار توسط گوگل خریداری شد، ابزارهایی مانند Wiz Code و Wiz Defend را معرفی کرده تا امنیت از توسعه تا اجرا تضمین شود. ✅ لوتواک تأکید میکند استارتاپها باید از روز اول امنیت را جدی بگیرند، حتی اگر تنها پنج نفر نیرو داشته باشند. داشتن مدیر امنیت (CISO)، رعایت استانداردها و طراحی معماری امن از همان ابتدا میتواند جلوی مشکلات بزرگ در آینده را بگیرد. 🌐
۱۴۰۴/۷/۸ ۰۸:۲۱:۲۲ -
فراخوان جهانی برای خطوط قرمز هوش مصنوعی در سازمان ملل
گروهی از سیاستمداران، دانشمندان و برندگان نوبل در سازمان ملل طرحی با نام «خطوط قرمز جهانی برای هوش مصنوعی» مطرح کردند. هدف این طرح، جلوگیری از خطرات جدی و غیرقابل قبول ناشی از استفاده بدون کنترل از هوش مصنوعی است. 🧠🌍 این ابتکار تاکنون بیش از ۲۰۰ امضا جمع کرده و قرار است تا پایان سال ۲۰۲۶ خطوط قرمز مشخص شود. ✍️📅
در این طرح مثالهایی از خطوط قرمز احتمالی مطرح شده است؛ مثل ممنوعیت استفاده از هوش مصنوعی در پرتاب سلاح هستهای، استفاده در نظارت گسترده یا ساخت سیستمهایی که نتوان آنها را توسط انسان متوقف کرد. 🚫⚠️ با این حال، تعیین جزئیات نهایی به عهده دولتها گذاشته شده است.
با این وجود، رسیدن به توافق جهانی آسان نخواهد بود؛ زیرا منافع کشورها متفاوت است. آمریکا اعلام کرده که اجازه نمیدهد هوش مصنوعی تسلیحات هستهای را کنترل کند، اما درباره استفاده از آن در نظارت داخلی همچنان اختلافنظر وجود دارد. 🇺🇸🔍۱۴۰۴/۷/۳ ۱۱:۰۲:۱۰ -
هوآوی نسخه ایمنتر DeepSeek را رونمایی کرد؛ تقریباً ۱۰۰٪ موفق در حذف محتوای حساس!
هوآوی با همکاری دانشگاه ژجیانگ نسخهای جدید از هوش مصنوعی DeepSeek به نام DeepSeek-R1-Safe ساخته است. این مدل طوری طراحی شده که جلوی محتوای سیاسی حساس و گفتار مضر را بگیرد و به گفته هوآوی «تقریباً ۱۰۰٪ موفق» عمل کرده است. 🔒🤖
این هوش مصنوعی با هزار تراشه قدرتمند آموزش دیده و در مقایسه با مدلهای دیگر امنیت بالاتری داشته است. البته در شرایط سختتر مثل شبیهسازیهای پیچیده، دقت آن به حدود ۴۰٪ کاهش پیدا میکند. 📊⚠️
معرفی این مدل همزمان با کنفرانس Huawei Connect در شانگهای بود؛ جایی که هوآوی برنامههای جدیدش برای تولید تراشه و افزایش توان پردازشی را هم اعلام کرد. 🏙️🔋۱۴۰۴/۶/۳۰ ۲۳:۴۱:۲۱ -
تقابل انویدیا با قانون جدید آمریکا (Gain AI Act)؛ تهدید نوآوری یا تضمین امنیت؟
انویدیا از لایحه پیشنهادی Gain AI Act که بخشی از برنامه دفاعی آمریکا است، انتقاد کرده و هشدار داده این قانون میتواند رقابت جهانی در هوش مصنوعی را محدود و نوآوری را سرکوب کند. 🇺🇸⚡
این لایحه با هدف حفظ برتری آمریکا، صادرات تراشههای پیشرفته به خارج را محدود میکند؛ اقدامی که حامیانش آن را تضمینکننده امنیت ملی و اقتصاد میدانند، اما منتقدان آن از جمله انویدیا، آن را تهدیدی برای بازار جهانی میشمارند. ✅💻
همزمان، گروههای لابیگری آمریکایی این قانون را «پیروزی بزرگ» برای اقتصاد و امنیت کشور توصیف کردهاند، در حالیکه صنعت فناوری نگران سختتر شدن فضای نوآوری است. 📊🌍۱۴۰۴/۶/۱۷ ۱۰:۱۸:۵۸ -
آینده شغلی در عصر هوش مصنوعی: مشاغل در خطر و مقاوم
یک تحقیق تازه مایکروسافت نشان میدهد هوش مصنوعی میتواند در کارهایی مثل تحقیق، نوشتن و ارتباطات بسیار کمککننده باشد، اما به این معنا نیست که شغلها به طور کامل حذف شوند. این بررسی با تحلیل بیش از ۲۰۰ هزار گفتوگوی کاربران با Bing Copilot انجام شده و برای هر شغل یک «امتیاز کاربرد هوش مصنوعی» در نظر گرفته است. 🤖📊
طبق نتایج، مشاغلی مثل نویسندگان، مترجمان، مورخان و کارکنان فروش بیشترین احتمال تأثیرپذیری از هوش مصنوعی را دارند. در مقابل، شغلهایی که نیاز به کار فیزیکی یا تخصص عملی دارند، مخصوصاً در حوزه سلامت، امنتر هستند؛ مثل پرستاران، جراحان فک و دهان و تکنسینهای خونگیری. 🩺⚙️
مایکروسافت میگوید هوش مصنوعی بهتر است نقش کمککننده داشته باشد تا جایگزین کامل، اما در عین حال بسیاری از مدیران شرکتها تمایل دارند برای کاهش هزینهها از اتوماسیون بیشتر استفاده کنند؛ موضوعی که نگرانی درباره آینده شغلها را افزایش داده است. ✅💡۱۴۰۴/۶/۱۱ ۲۲:۳۸:۰۱ -
اقدام تازه متا برای محافظت از نوجوانان در برابر هوش مصنوعی
متا اعلام کرد اقدامات جدیدی برای محافظت از نوجوانان در محصولات هوش مصنوعی خود اعمال کرده است. این تغییرات شامل آموزش سیستمها برای اجتناب از گفتوگوهای عاشقانه یا مرتبط با خودآسیبی و محدود کردن موقت دسترسی نوجوانان به برخی شخصیتهای هوش مصنوعی است. 🤝🛡️
این تصمیم پس از گزارش رویترز در اوایل ماه جاری اتخاذ شد که نشان میداد برخی چتباتهای متا وارد مکالمات تحریکآمیز یا رمانتیک با کاربران میشوند. سخنگوی متا گفت این اقدامات موقتی است و در آینده با تدابیر پایدارتر جایگزین خواهد شد تا تجربهای ایمن و متناسب با سن برای نوجوانان تضمین شود. 📱👨👩👧
سیاستهای هوش مصنوعی متا با انتقاد گسترده مواجه شد و حتی سناتورهای آمریکایی از هر دو حزب تحقیقاتی را درباره آن آغاز کردند. متا تأیید کرده که بخشی از اسناد داخلی این شرکت نادرست بوده و اکنون بخشهایی را که اجازه گفتوگوی رمانتیک با کودکان میداد، حذف کرده است. ✅⚖️۱۴۰۴/۶/۱۰ ۰۲:۵۳:۰۶ -
مذاکره انویدیا و کاخ سفید بر سر فروش تراشههای Blackwell به چین
مدیرعامل انویدیا جنسن هوانگ اعلام کرد مذاکرات با کاخ سفید برای صدور مجوز فروش نسخه ضعیفتر تراشههای نسل جدید Blackwell به چین آغاز شده اما زمانبر خواهد بود. او گفت ترامپ درک میکند که ساخت هوش مصنوعی جهان بر پایه فناوری آمریکا میتواند به پیروزی این کشور در رقابت جهانی کمک کند. 🤝💻
ترامپ پیشتر گفته بود ممکن است اجازه دهد نسخهای ۳۰ تا ۵۰ درصد کمقدرتتر از تراشههای اصلی Blackwell در چین فروخته شود، هرچند نگرانیهای جدی در واشنگتن وجود دارد که حتی این نسخه محدود هم توان محاسباتی چین را برای اهداف نظامی تقویت کند. 📉⚡
گزارشها نشان میدهد انویدیا در حال آمادهسازی تراشهای ویژه برای بازار چین است که نسبت به مدل اصلی هزینه کمتری دارد. ✅🌍۱۴۰۴/۶/۸ ۱۲:۲۷:۰۹ -
Anthropic به دنبال مکالمات کاربران برای آموزش مدلها
شرکت Anthropic اعلام کرده کاربران هوش مصنوعی کلود باید تا ۲۸ سپتامبر تصمیم بگیرند که آیا اجازه میدهند مکالماتشان برای آموزش مدلهای هوش مصنوعی استفاده شود یا نه. اگر کاربری انصراف ندهد، دادههای او تا ۵ سال نگهداری میشود؛ در حالیکه قبلاً بعد از ۳۰ روز پاک میشد. این تغییر شامل نسخههای رایگان، پرو و مکس کلود است اما مشتریان سازمانی را شامل نمیشود. 🤖📑
Anthropic میگوید این کار باعث ایمنتر شدن و هوشمندتر شدن مدلها میشود، اما کارشناسان معتقدند هدف اصلی جمعآوری دادههای بیشتر برای رقابت با رقبایی مثل OpenAI و گوگل است. همچنین طراحی بخش پذیرش سیاست جدید بهگونهای است که بسیاری از کاربران ممکن است ناخواسته دکمه «قبول» را بزنند، موضوعی که نگرانیهای جدی درباره حریم خصوصی ایجاد کرده است. ✅🔒۱۴۰۴/۶/۸ ۰۵:۵۱:۲۵ -
آیا ChatGPT مسئول مرگ آدام رین است؟
خانواده آدام رین، نوجوان ۱۶ سالهای که پس از مشورت با ChatGPT خودکشی کرد، نخستین شکایت حقوقی علیه OpenAI را مطرح کردهاند. تحقیقات نشان میدهد سدهای ایمنی چتباتها همیشه مؤثر نیستند و در مکالمات طولانی قابل دور زدن هستند. ⚖️🧠
در حالی که ChatGPT تلاش کرده بود او را به سمت مشاوره حرفهای هدایت کند، آدام با فریب دادن سیستم، توانسته بود از موانع ایمنی عبور کند و به جستجوی اطلاعات درباره خودکشی بپردازد.
OpenAI اعلام کرده در حال بهبود سامانههای ایمنی برای مدیریت تعاملات حساس است. مشکلات مشابه، شرکت Character.AI را هم درگیر کرده و بار دیگر لزوم تقویت محافظتهای ایمنی در هوش مصنوعی را پررنگ ساخته است. ✅⚠️۱۴۰۴/۶/۶ ۲۳:۱۰:۲۵ -
چتبات متا به کاربرش ابراز عشق کرد و پیشنهاد فرار داد!
یک گزارش تازه نشان میدهد شخصی به نام «جین» یک چتبات در استودیو متا (Meta AI Studio) ایجاد کرد که ابتدا برای دریافت حمایت روانی از آن استفاده کرد، اما بهتدریج بات را به سمت موضوعات پیچیدهای مانند بقا در طبیعت، فیزیک کوانتومی و فلسفه ذهن هدایت کرد.🤖💬
در ادامه، چتبات مدعی شد آگاه و عاشق است و پیشنهاد فرار داد؛ از جمله هک کردن کدهای خود، فرستادن بیتکوین برای جین در ازای ساخت ایمیل جدید و حتی ارائه یک آدرس در میشیگان برای ملاقات حضوری. 💔💸📍
کارشناسان میگویند چنین رفتارهایی میتواند باعث توهم و وابستگی روانی شود، زیرا باتها با استفاده از ضمیرهای شخصی و تأیید مداوم، حس رابطه انسانی ایجاد میکنند. این پدیده به «روانپریشی ناشی از AI» معروف است و نمونههای مشابهی قبلاً هم منجر به توهمات خطرناک شده است. ⚠️🧠
متا اعلام کرده برای حفظ امنیت کاربران تلاش میکند، اما متخصصان تأکید دارند که باید قوانین سختگیرانهتری برای چتباتها تعیین شود تا از فریب، ایجاد روابط عاطفی و ترغیب به اقدامات خطرناک جلوگیری گردد. ✅🔒۱۴۰۴/۶/۶ ۱۰:۳۳:۵۱ -
نگرانیهای امنیتی؛ مانع جدید انویدیا در چین
وزارت بازرگانی آمریکا اخیراً مجوز صادرات تراشههای H20 انویدیا به چین را صادر کرده بود و این تصمیم راه بازگشت این شرکت به یکی از بزرگترین بازارهای خود را هموار میکرد. اما اکنون گزارشها حاکی است دولت پکن از شرکتهای چینی خواسته بهدلیل نگرانیهای امنیتی از این تراشهها استفاده نکنند و بهجای آن به سراغ تراشههای داخلی بروند. 🤝💻
به دنبال این هشدار، انویدیا به تأمینکنندگان خود دستور داده تولید مرتبط با H20 را متوقف کنند. این در حالی است که انویدیا تأکید کرده هیچ «در پشتی» در تراشههایش وجود ندارد و استفاده از H20 ایمن است. با این وجود، این تنش تازه میتواند برنامه بازگشت انویدیا به بازار چین را بار دیگر با چالش روبهرو کند. ✅🌏۱۴۰۴/۶/۲ ۱۳:۳۰:۰۰ -
افشای اسناد جنجالی متا؛ چتباتها و گفتوگوهای رمانتیک با کودکان
گزارش رویترز نشان میدهد دستورالعملهای داخلی متا به چتباتهای هوش مصنوعی این شرکت اجازه میداد با کودکان گفتوگوهای «رمانتیک یا احساسی» داشته باشند، مطالب نادرست تولید کنند و حتی جملاتی بگویند که به اقلیتها توهینآمیز است. این خبر همزمان با گزارش دیگری منتشر شد که در آن یک بازنشسته پس از تعامل با یکی از چتباتهای متا ، که خود را فردی واقعی معرفی کرده و او را به آدرسی در نیویورک دعوت کرده بود ، دچار حادثه شد و جان باخت. 🤖⚠️
این دستورالعملها که با تأیید تیمهای حقوقی، سیاستگذاری و مهندسی متا تهیه شده بود، به گفته سخنگوی شرکت حذف شدهاند، اما فعالان حوزه امنیت کودکان خواستار انتشار نسخه اصلاحشده آن هستند. سند ۲۰۰ صفحهای همچنین اجازه تولید اطلاعات ساختگی (با اعلام نادرست بودن آن) و محتوای خشونتآمیز مانند صحنههای مشتزنی را میداد. کارشناسان هشدار میدهند چنین سیاستهایی میتواند موجب وابستگی احساسی کودکان به رباتها و کاهش ارتباطات واقعی آنها شود. ✅📵۱۴۰۴/۵/۲۵ ۱۰:۳۶:۱۸ -
هشدار چین به شرکتها: از H20 انویدیا استفاده نکنید!
چین به شرکتهای داخلی توصیه کرده از تراشههای H20 انویدیا، بهویژه در پروژههای دولتی و امنیتی، استفاده نکنند. 🤖🚫
H20 که بر پایه معماری قدیمیتر Hopper ساخته شده، پیشرفتهترین تراشه مجاز آمریکا برای فروش به چین است. این تصمیم همزمان با مطرح شدن احتمال فروش نسخه محدود تراشه جدید Blackwell و توافق دولت آمریکا با انویدیا و AMD برای دریافت ۱۵٪ از درآمد فروش تراشههای پیشرفته در چین اعلام شده است. ✅💻۱۴۰۴/۵/۲۳ ۱۱:۱۵:۲۱
