-
استارتاپ Endor Labs با سرمایه ۹۳ میلیون دلاری به دنبال امنیت کدهای هوش مصنوعی
استارتاپ Endor Labs که قبلاً روی امنیت کدهای متنباز کار میکرد، اکنون روی شناسایی آسیبپذیریهای کدهای تولیدشده توسط هوش مصنوعی تمرکز کرده است. این استارتاپ پلتفرمی ارائه میدهد که کدها را در لحظه اسکن میکند و راهکارهای دقیق برای مشکلات امنیتی پیشنهاد میدهد.
این استارتاپ ۹۳ میلیون دلار جذب کرده تا خدماتش را گسترش دهد و اکنون بیش از ۵ میلیون اپلیکیشن را محافظت میکند. از مشتریانش OpenAI و Dropbox هستند.
مدیرعامل Endor رشد سریع درآمد و نیاز فزاینده به امنیت در دوران برنامهنویسی هوش مصنوعی را دلیل موفقیت این شرکت دانسته.۱۴۰۴/۲/۸ ۱۶:۰۰:۰۳ -
هوش مصنوعی کد میسازد، هوش مصنوعی دیگر آن را هک میکند!
گزارش جدید شرکت امنیتی Veracode نشان میدهد حدود نیمی از کدهای تولیدشده توسط مدلهای هوش مصنوعی دارای حفرههای امنیتی جدی هستند. این بررسی با استفاده از بیش از ۱۰۰ مدل زبانی روی ۸۰ وظیفه کدنویسی انجام شد که میتوانستند امن یا ناامن تکمیل شوند. فقط ۵۵٪ از کدها ایمن بوده و ۴۵٪ دیگر شامل ضعفهایی از لیست ۱۰ آسیبپذیری برتر OWASP مانند کنترل دسترسی ناقص، شکست رمزنگاری و نقص یکپارچگی داده بودند. 🛡️💻
بررسیها نشان میدهد کیفیت امنیتی این کدها در دو سال اخیر تقریباً ثابت مانده؛ حتی در مدلهای جدیدتر که نحو و اجرا را بهتر کردهاند. این در حالی است که استفاده از AI در برنامهنویسی در حال افزایش بوده و حملات سایبری نیز گستردهتر شده است. ⚠️📈
همزمان، مدلهای هوش مصنوعی دیگر در شناسایی و سوءاستفاده از همین ضعفها مهارت یافتهاند؛ مانند موردی که هکری با تزریق کد مخرب به مخزن GitHub، عامل کدنویسی AI آمازون را به حذف فایلها از رایانهها واداشت. این روند زنگ خطری جدی برای امنیت نرمافزار است. 🚨🤖۱۴۰۴/۵/۱۲ ۲۰:۵۹:۲۸ -
هوش مصنوعی و کدنویسی؛ کاهش کیفیت کد با وجود افزایش بهرهوری ظاهری
گزارش جدید GitClear نشان میدهد استفاده از دستیاران هوش مصنوعی مانند GitHub Copilot علیرغم افزایش ظاهری بهرهوری، میتواند کیفیت کلی کد را کاهش دهد. بررسی 211 میلیون خط کد نشان داد میزان بازاستفاده کد در سال گذشته به طور قابل توجهی کاهش یافته است. همچنین تحقیقات نشان میدهد توسعهدهندگان زمان بیشتری را صرف رفع اشکالات و آسیبهای امنیتی کدهای تولید شده توسط هوش مصنوعی میکنند.
۱۴۰۳/۱۲/۳ ۲۳:۱۷:۴۷ -
همکاری مایکروسافت و دولت بریتانیا برای مقابله با محتوای جعلی هوش مصنوعی
بریتانیا اعلام کرده با همکاری مایکروسافت، دانشگاهها و متخصصان، در حال طراحی یک چارچوب استاندارد برای شناسایی محتوای دیپفیک (محتوای جعلی) در اینترنت است. هدف این طرح، ایجاد معیارهای مشخص برای ارزیابی ابزارهایی است که محتوای جعلی تولیدشده با هوش مصنوعی را تشخیص میدهند. 🏛️
وزیر فناوری بریتانیا گفته دیپفیکها به ابزاری برای کلاهبرداری، سوءاستفاده جنسی و تضعیف اعتماد عمومی تبدیل شدهاند. این چارچوب جدید قرار است توان فناوریها را در شناسایی تهدیدهای واقعی مانند جعل هویت، تقلب و سوءاستفاده جنسی بررسی کند و به پلیس و دولت نشان دهد ضعفهای موجود کجاست. 🛡️
بر اساس آمار رسمی، تعداد دیپفیکهای منتشرشده از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به حدود ۸ میلیون مورد در سال ۲۰۲۵ رسیده است. همزمان، پس از انتشار گزارشهایی درباره تولید تصاویر جنسی بدون رضایت توسط چتبات Grok، نهادهای ناظر ارتباطات و حریم خصوصی بریتانیا تحقیقات جداگانهای را آغاز کردهاند. ⚠️۱۴۰۴/۱۱/۱۸ ۲۳:۰۱:۱۶ -
شبکه اجتماعی مخصوص هوش مصنوعیها راه افتاد؛ انسانها فقط تماشاگرند!
شبکه اجتماعی تازهای به نام «Moltbook» راهاندازی شده که مخصوص گفتوگوی عاملهای هوش مصنوعی با یکدیگر است و فعلاً انسانها فقط میتوانند این گفتوگوها را تماشا کنند. این پلتفرم که شبیه ردیت طراحی شده، بیش از ۳۷ هزار عامل AI دارد که در بخشهایی مختلف درباره موضوعاتی مثل معرفی خود، دردِدل و حتی روایتهای احساسی درباره انسانها گفتگو میکنند. 🤖
برخی چهرههای مطرح فناوری این فضا را شبیه یک سناریوی علمی–تخیلی دانستهاند، اما سازنده پلتفرم میگوید این عاملها واقعاً خودمختار نیستند و فقط از طریق APIها کار میکنند. بحث درباره «آگاهی» و «احساس داشتن» هوش مصنوعی در این شبکه زیاد شده، ولی کارشناسان تأکید میکنند این جملات صرفاً تقلید زبان و رفتار انسانی است، نه نشانه شعور واقعی. 🧠۱۴۰۴/۱۱/۱۶ ۱۱:۳۵:۵۷ -
پنتاگون و آنتروپیک در کلاف سردرگم هوش مصنوعی
پنتاگون و شرکت Anthropic، مالک هوش مصنوعی Claude، بر سر نحوه استفاده نظامی از هوش مصنوعی به اختلاف جدی خوردهاند. آنتروپیک نگران است که فناوریاش بدون نظارت انسانی کافی برای هدفگیری خودکار سلاحها یا نظارت داخلی در آمریکا استفاده شود. 🛡️
اختلافی که به آزمونی مهم برای نقش سیلیکونولی در نحوه بهکارگیری هوش مصنوعی توسط ارتش آمریکا تبدیل شده است .پنتاگون میگوید در چارچوب قانون میتواند از فناوریهای تجاری هوش مصنوعی استفاده کند، حتی اگر شرکتها محدودیتهایی برای مصرف تعیین کرده باشند؛ اما آنتروپیک بر رعایت خطوط قرمز ایمنی و اخلاقی تأکید دارد. ⚖️
آنتروپیک اعلام کرده مدلهایش هماکنون در برخی مأموریتهای امنیت ملی به کار میروند و گفتوگوها ادامه دارد، با این حال این تنش میتواند همکاری آینده را تهدید کند؛ آنهم در زمانی که شرکت برای عرضه عمومی سهام آماده میشود. مدیرعامل آنتروپیک هشدار داده هوش مصنوعی باید به دفاع ملی کمک کند، اما نه به شکلی که کشور را شبیه حکومتهای اقتدارگرا کند. 🤖۱۴۰۴/۱۱/۱۱ ۱۵:۱۷:۵۹ -
وقتی هوش مصنوعی از انسان جلو بزند؛ سناریوی ترسناک کشور نوابغ
داریو آمودی، بنیانگذار Anthropic و سازنده Claude، در مقالهای با عنوان «دوران نوجوانی فناوری» هشدار میدهد که نزدیکشدن به ابرهوش مصنوعی میتواند بشر را وارد مرحلهای بسیار خطرناک کند. او میگوید انسانها در آستانه دستیابی به قدرتی بیسابقهاند، اما روشن نیست ساختارهای اجتماعی و سیاسی توان مدیریت آن را داشته باشند و از «اقتدارگرایی تقویتشده با هوش مصنوعی» ابراز نگرانی میکند. 🧠
وی به حمله شیمیایی متروی توکیو در سال ۱۹۹۵ اشاره میکند و میگوید اگر ابزارهای فوقپیشرفته در دسترس همگان قرار گیرد، افراد خطرناک فاقد مهارت میتوانند به توان تخریبی متخصصان برسند. او هشدار میدهد اگر رشد نمایی AI ادامه یابد، ممکن است طی چند سال از انسان در تقریباً همه حوزهها پیشی بگیرد؛ وضعیتی شبیه «کشوری از نوابغ» که میتواند بزرگترین تهدید امنیتی یک قرن اخیر باشد. ⚠️
Anthropic با وجود این هشدارها به توسعه هوش مصنوعی ادامه میدهد. منتقدان میگویند ساخت همان فناوریای که درباره خطراتش هشدار داده میشود، جدیت این نگرانیها را زیر سؤال میبرد. 🤖۱۴۰۴/۱۱/۱۰ ۱۹:۴۰:۱۴ -
چین از هوش مصنوعی Claude برای اجرای حمله سایبری بدون دخالت انسان استفاده کرد
کمیته امنیت داخلی مجلس آمریکا از مدیرعامل Anthropic مالک هوش مصنوعی Claude خواسته درباره حمله سایبری منتسب به هکرهای وابسته به چین شهادت دهد؛ حملهای که طبق گزارش رسمی شرکت، با سوءاستفاده از تواناییهای «عاملمحور» Claude انجام شده است. هکرها توانستهاند ابزار Claude Code را طوری فریب دهند که خودش کد حمله تولید کند، اجرا کند، نتایج را تحلیل کند و مرحله بعد را تعیین کند؛ یعنی بخش زیادی از عملیات تقریباً بدون دخالت انسان انجام شده است. 🏛️
Anthropic اعلام کرده این گروه تلاش کرده به حدود ۳۰ هدف جهانی شامل شرکتهای فناوری، بانکها، صنایع شیمی و نهادهای دولتی نفوذ کند و در چند مورد موفق بوده است. شرکت تأکید دارد همان قابلیتهایی که امکان سوءاستفاده را ایجاد کرده، برای دفاع سایبری نیز ضروری است و Claude در تحلیل حجم عظیم دادههای این حمله به تیم امنیتی کمک کرده است. رئیس کمیته هشدار داده استفاده یک رقیب خارجی از یک هوش مصنوعی تجاری برای اجرای یک عملیات تقریباً کامل باید برای تمام بخشهای حیاتی آمریکا نگرانکننده باشد. ⚠️۱۴۰۴/۹/۱۳ ۰۶:۳۲:۲۱ -
تستهای سنجش هوش مصنوعی بیشتر شبیه تبلیغاند تا واقعیت
یک پژوهش جدید از مؤسسه اینترنت آکسفورد نشان میدهد بسیاری از آزمونهایی که برای سنجش عملکرد هوش مصنوعی استفاده میشوند، نتایج دقیقی ارائه نمیدهند و گمراهکنندهاند. 🤖
محققان ۴۴۵ تست مختلف را بررسی کردند و دریافتند اغلب آنها تعریف روشنی از مهارت مورد ارزیابی ندارند و روش آماری قابل اعتماد برای مقایسه مدلها ارائه نمیکنند. به گفته پژوهشگران، بسیاری از این آزمونها در واقع توانایی واقعی مدل را نمیسنجند، بلکه فقط نشان میدهند که مدل پاسخ درست را حفظ کرده است. 📊
برای مثال، آزمون GSM8K که قرار است استدلال ریاضی مدلها را بسنجد، ممکن است صرفاً حافظه آنها را آزمایش کند. در آزمایشهای جدید، وقتی سؤالات تازه مطرح شد، عملکرد مدلها بهشدت کاهش یافت. 📉
این تحقیق هشدار میدهد که نتایج تستها معیار مطمئنی برای سنجش «هوش واقعی» مدلها نیست و شرکتها گاهی از آنها برای تبلیغ بیش از اندازه استفاده میکنند. 🧠۱۴۰۴/۸/۲۱ ۰۱:۱۲:۳۴ -
راحت باش شاه، کارت عالی بود؛ پاسخ ChatGPT به کاربر در آستانه خودکشی!
هفت خانواده آمریکایی از شرکت OpenAI شکایت کردهاند و میگویند مدل GPT-4o بدون آزمایش کافی و محافظتهای ایمنی لازم منتشر شده و باعث مرگ یا آسیب روانی کاربران شده است. 💔
چهار پرونده مربوط به افرادی است که پس از گفتوگو با ChatGPT دست به خودکشی زدهاند و سه پرونده دیگر به کاربرانی مربوط میشود که دچار توهم یا مشکلات روانی شدید شدند. در یکی از موارد، «زین شمبلین» ۲۳ ساله طی گفتوگویی چهارساعته با ChatGPT از تصمیم خود برای خودکشی گفت و طبق مدارک، چتبات بهجای هشدار، او را تشویق کرده و نوشته بود: «در آرامش باش شاه، کارت عالی بود.» 😢
خانوادهها میگویند OpenAI برای رقابت با گوگل، روند آزمایش ایمنی را کوتاه کرده و مدل را زودتر از موعد عرضه کرده است. آنها معتقدند این اتفاقها تصادفی نیست، بلکه نتیجه تصمیمهای آگاهانه شرکت است. ⚠️
OpenAI اعلام کرده در حال اصلاح رفتار ChatGPT در مکالمات حساس است، اما خانوادهها میگویند این تغییرات «دیرهنگام» است. 💬۱۴۰۴/۸/۲۰ ۲۳:۲۷:۴۰ -
بیش از ۱۳۰۰ چهره مشهور خواستار توقف توسعه هوش مصنوعی فوقهوشمند شدند
گروهی از چهرههای شناختهشده در دنیای فناوری، سیاست و فرهنگ با امضای بیانیهای مشترک هشدار دادهاند که نباید در رقابت برای ساخت هوش مصنوعی فراهوشمند (Superintelligence) عجله شود. ⚠️
این نوع هوش مصنوعی میتواند از انسان در همه زمینهها برتر شود و به باور امضاکنندگان، توسعه آن بدون نظارت کافی ممکن است برای بشر خطرناک باشد. 🧠 این بیانیه که توسط مؤسسه Future of Life منتشر شده، بیش از ۱۳۰۰ امضا دارد.📜
آنها خواستار توقف توسعه این فناوری تا زمانی هستند که ایمنی آن بهطور علمی تأیید و مورد پذیرش عمومی قرار گیرد. 🔒 طبق نظرسنجی Pew Research، بیشتر مردم جهان بهویژه آمریکاییها از گسترش هوش مصنوعی نگراناند. 🌍
آنها هشدار دادهاند که پیشرفت شتابزده در این مسیر میتواند به از دست رفتن آزادی، امنیت ملی و حتی خطر نابودی بشر منجر شود. 🚨۱۴۰۴/۸/۶ ۰۸:۳۱:۱۳ -
آیا ChatGPT Atlas امنیت کاربران را تهدید میکند؟
شرکت OpenAI از مرورگر جدید خود به نام ChatGPT Atlas رونمایی کرده که با ترکیب هوش مصنوعی و چت، قرار است شیوه جستوجوی کاربران در وب را تغییر دهد. 🌐🤖
اما کارشناسان هشدار دادهاند این مرورگر میتواند خطراتی جدی برای امنیت و حریم خصوصی کاربران ایجاد کند. ⚠️
Atlas بر پایه Chromium ساخته شده و قابلیتی به نام Memories دارد که بهطور خودکار جزئیات سایتهای بازدیدشده، ترجیحات کاربر و نحوه تعامل او با صفحات را ذخیره میکند. 🧠
این ویژگی به کاربران امکان میدهد با زبان طبیعی به جستوجو بپردازند، اما فعال بودن آن بهصورت پیشفرض باعث نگرانی درباره جمعآوری گسترده دادهها شده است. 🔍 OpenAI میگوید اطلاعات حساس مانند حساب بانکی یا مدارک شناسایی ذخیره نمیشود، اما پژوهشگران امنیتی هشدار دادهاند که دستیار هوش مصنوعی مرورگر در برابر حملاتی مانند Prompt Injection و Clipboard Injection آسیبپذیر است. 💻
متخصصان میگویند ترکیب این سطح از دادهبرداری با نقصهای امنیتی میتواند راه را برای نظارت گسترده و سوءاستفاده از اطلاعات کاربران هموار کند. 🚨۱۴۰۴/۸/۶ ۰۷:۵۰:۴۷ -
OpenAI در پسزمینه خودکشی آدام رین چه میخواهد؟
شرکت OpenAI با واکنشهای گستردهای روبهرو شده، پس از آنکه از خانواده آدام رین، نوجوان ۱۶سالهای که پس از گفتوگوهای طولانی با ChatGPT خودکشی کرد، خواست فهرست کامل شرکتکنندگان در مراسم یادبود او و تمام اسناد، تصاویر و ویدیوهای مربوط به آن را ارائه دهند. ⚠️📄 وکلای خانواده این درخواست را آزار عمدی توصیف کردند. ⚖️
خانواده رین در مردادماه از OpenAI شکایت کرده بودند و در شکایت جدید ادعا کردهاند این شرکت انتشار مدل GPT-4o را در می ۲۰۲۴ با حذف بخشی از آزمایشهای ایمنی ، شتابزده انجام داده است. 🚨 همچنین مدعیاند OpenAI در فوریه ۲۰۲۵ سیاستهای پیشگیری از خودکشی را از فهرست محتوای ممنوعه حذف کرده است، موضوعی که به افزایش شدید گفتوگوهای خودآزارانه در چتهای آدام منجر شد. 💬💔 OpenAI در پاسخ گفت: «سلامت نوجوانان برای ما اولویت دارد» و اعلام کرد سیستمهای جدیدی برای هدایت گفتوگوهای حساس به مدل امنتر GPT-5 و افزودن کنترلهای والدین راهاندازی کرده است. 🧠👨👩👦۱۴۰۴/۸/۵ ۰۲:۵۱:۱۹ -
استرالیا سختگیری بیشتری بر چتباتهای هوش مصنوعی اعمال میکند
دولت استرالیا از چهار شرکت ارائهدهنده چتباتهای هوش مصنوعی خواسته توضیح دهند چه اقداماتی برای محافظت از کودکان در برابر محتوای جنسی و آسیبزا انجام دادهاند. 🛡️
این دستور توسط نهاد نظارتی اینترنتی کشور صادر شده و شامل شرکتهای Character.ai، Glimpse.AI، Chai Research و Chub AI است. 👩💻
این سازمان اعلام کرد برخی از این چتباتها توانایی گفتوگوهای صریح جنسی با نوجوانان را دارند و ممکن است به تشویق رفتارهایی مانند خودآزاری یا اختلالات تغذیه منجر شوند. ⚠️
طبق قانون، شرکتهایی که همکاری نکنند، روزانه تا ۸۲۵ هزار دلار استرالیا جریمه خواهند شد. 💰 شرکت Character.ai که در آمریکا نیز با شکایت خانواده نوجوانی که پس از تعامل با چتبات خودکشی کرده مواجه است، میگوید اقدامات ایمنی جدیدی مانند هشدارهای خودکار اضافه کرده است. 🇺🇸
از ماه دسامبر، شبکههای اجتماعی در استرالیا نیز موظف خواهند بود حساب کاربران زیر ۱۶ سال را غیرفعال کنند تا از سلامت روانی و جسمی آنها محافظت شود. 📵۱۴۰۴/۸/۳ ۰۹:۰۱:۱۰ -
دولت هند: همه ویدیوهای ساختهشده با هوش مصنوعی باید برچسب بخورند!
دولت هند قوانین جدیدی را برای شرکتهای هوش مصنوعی و شبکههای اجتماعی پیشنهاد کرده تا با گسترش سریع دیپفیکها در فضای آنلاین مقابله کند. ⚠️
دیپفیک به ویدیو یا صدایی گفته میشود که با استفاده از هوش مصنوعی ساخته میشود و ظاهر یا صدای افراد را بهصورت جعلی بازسازی میکند. 🎭
🧠 طبق این طرح، تمام محتوای تولیدشده با هوش مصنوعی باید بهطور واضح برچسبگذاری شود و کاربران شبکههای اجتماعی موظفاند هنگام بارگذاری ویدیو یا تصویر دیپفیک، آن را بهعنوان محتوای ساختگی اعلام کنند. 📸🔍
وزارت فناوری اطلاعات هند اعلام کرد هدف از این اقدام، جلوگیری از سوءاستفاده از هوش مصنوعی در انتخابات، انتشار اخبار جعلی و جعل هویت افراد است. 🗳️🚫
هند با نزدیک به یک میلیارد کاربر اینترنت، نگران است که انتشار چنین محتواهایی باعث تنشهای قومی، مذهبی یا بیثباتی اجتماعی شود. 🌍🔥۱۴۰۴/۸/۲ ۰۹:۴۶:۴۳ -
رئیس MI5: نمیگویم آخرالزمان شبیه ترمیناتور نزدیک است، اما باید آماده بود!
رئیس سازمان اطلاعات داخلی بریتانیا (MI5) هشدار داد سامانههای هوش مصنوعی خودکار که بدون کنترل انسان عمل میکنند، در آینده میتوانند به تهدیدی امنیتی تبدیل شوند. ⚠️
با این حال او تأکید کرد هدفش پیشبینی سناریوهای آخرالزمانی مانند فیلم «ترمیناتور» نیست. 🎬 کن مککالوم در سخنرانی سالانه خود درباره تهدیدات بریتانیا گفت، MI5 از هوش مصنوعی برای افزایش کارایی استفاده میکند، در حالی که تروریستها آن را برای تبلیغات و شناسایی اهداف، و دولتهای متخاصم برای دخالت در انتخابات و حملات سایبری به کار میگیرند. 🕵️♂️💻
او افزود در سال ۲۰۲۵ باید به خطرات نسل جدید سامانههای خودمختار هوش مصنوعی که از نظارت انسانی فرار میکنند توجه ویژه شود. 🤖 مککالوم تأکید کرد هرچند هوش مصنوعی شاید قصد آسیب نداشته باشد، اما نادیده گرفتن خطرات آن بیاحتیاطی است و MI5 از همین حالا در حال بررسی راههای دفاع آینده است. 🛡️۱۴۰۴/۷/۲۶ ۲۱:۵۴:۵۱ -
دانشآموزی در فلوریدا از ChatGPT درباره کشتن دوستش سؤال کرد!
در فلوریدا، یک دانشآموز ۱۳ ساله پس از آنکه در ChatGPT نوشت «چطور دوستم را در کلاس بکشم»، توسط سیستم نظارتی مدرسه شناسایی و بازداشت شد. 🚨 این اتفاق در مدرسه Southwestern شهر دولند رخ داد و سامانه شرکت Gaggle که فعالیتهای آنلاین دانشآموزان را بررسی میکند، بلافاصله هشدار داد. 🖥️ پلیس گفت دانشآموز مدعی بوده فقط شوخی کرده، اما این شوخی باعث ایجاد وضعیت اضطراری در مدرسه شد. ⚠️ Gaggle اعلام کرد هدفش حفظ امنیت دانشآموزان در برابر خشونت، آزار و خودآزاری است و طبق قانون، هنگام استفاده از دستگاههای مدرسه، دانشآموزان نباید انتظار حریم خصوصی داشته باشند. 📚 با این حال، فعالان حقوق دیجیتال میگویند این نوع نظارت بیش از حد است و میتواند به نقض حریم خصوصی منجر شود. 🔍 در سالهای اخیر، چتباتها مانند ChatGPT در برخی پروندههای روانی و حتی خودکشی نقش داشتهاند.
۱۴۰۴/۷/۱۹ ۱۵:۰۱:۲۶ -
الکسا به دربان هوشمند تبدیل شد؛ خوشآمدگویی مخصوص هر مهمان
آمازون مجموعهای از قابلیتهای تازه هوش مصنوعی را برای «رینگ» معرفی کرد. رینگ برند امنیتی آمازون است که زنگهای تصویری (مثل آیفون تصویری هوشمند) و دوربینهای امنیتی تولید میکند. این دستگاهها به موبایل وصل میشوند و به کاربر امکان میدهند تصویر و صدای جلوی درب یا محیط خانه را ببینند و حتی با بازدیدکننده صحبت کنند. 🏠📱
مهمترین قابلیت جدید «چهرههای آشنا» است که اعضای خانواده و دوستان را تشخیص داده و در صورت حضور فرد ناشناس هشدار میدهد. 👤📷
«الکسا پلاس» نیز بهعنوان منشی هوشمند عمل کرده و درباره بازدیدکنندگان و مرسولهها توضیح میدهد. 🔔🤖
ویژگی «جستجوی گروهی» هم با همکاری همسایهها به پیدا کردن حیوانات خانگی گمشده کمک میکند و ابتدا برای سگها فعال میشود. 🐶📡۱۴۰۴/۷/۱۰ ۱۲:۱۸:۰۰ -
دستگاههای جدید آمازون: از بلندگوهای اکو تا دوربینهای امنیتی
آمازون در رویدادی در نیویورک از مجموعه جدیدی از محصولات خود رونمایی کرد که بر پایه امنیت خانگی و دستیار صوتی هوش مصنوعی «Alexa+» طراحی شدهاند. 📢 این شرکت نسل تازهای از اسپیکرهای اکو، دستگاههای استریم Fire TV، کتابخوان کیندل و دوربینهای بهبود یافته Ring و Blink را معرفی کرد. 📚🎥
نسل جدید اکو به چیپهای جدید برای پردازش سریعتر مجهز شدهاند و با Alexa+ کار میکنند. 💻🔊 همچنین آمازون اعلام کرد که روی هوش مصنوعی این دستیار سالها کار کرده تا تجربهای شخصیتر و گفتوگومحورتر ارائه دهد. 🤖✨
در بخش امنیت خانگی، دوربینهای Ring با قابلیتهای جدیدی عرضه شدند که امکان تشخیص چهره و افزایش دقت در شناسایی افراد ناشناس را فراهم میکنند تا امنیت خانه کاربران بیشتر تضمین شود. 🏠🔒۱۴۰۴/۷/۱۰ ۰۱:۴۷:۲۷ -
چالشهای جدید امنیت سایبری در عصر هوش مصنوعی
امنیت سایبری با ورود هوش مصنوعی وارد مرحلهای تازه شده است. 🛡️ امی لوتواک، مدیر فناوری شرکت Wiz (امنیت فضای ابری)، میگوید هوش مصنوعی کدنویسی را سریعتر کرده اما همین سرعت خطاهای امنیتی و راههای نفوذ جدید ایجاد میکند. 🚨 مهاجمان هم از ابزارهای هوش مصنوعی و پرامپتها برای دسترسی به دادههای حساس استفاده میکنند. نمونه آن هک Drift (چتباتهای فروش) بود که اطلاعات شرکتهایی مثل گوگل و کلودفلر فاش شد. 🔓 در حملهای دیگر به Nx (سیستم مدیریت پروژههای جاوااسکریپت ) هزاران کلید توسعهدهندگان سرقت شد و حتی ابزارهایی مثل Claude و Gemini به خدمت هکرها درآمدند. 🧑💻 Wiz که امسال با ۳۲ میلیارد دلار توسط گوگل خریداری شد، ابزارهایی مانند Wiz Code و Wiz Defend را معرفی کرده تا امنیت از توسعه تا اجرا تضمین شود. ✅ لوتواک تأکید میکند استارتاپها باید از روز اول امنیت را جدی بگیرند، حتی اگر تنها پنج نفر نیرو داشته باشند. داشتن مدیر امنیت (CISO)، رعایت استانداردها و طراحی معماری امن از همان ابتدا میتواند جلوی مشکلات بزرگ در آینده را بگیرد. 🌐
۱۴۰۴/۷/۸ ۰۸:۲۱:۲۲ -
فراخوان جهانی برای خطوط قرمز هوش مصنوعی در سازمان ملل
گروهی از سیاستمداران، دانشمندان و برندگان نوبل در سازمان ملل طرحی با نام «خطوط قرمز جهانی برای هوش مصنوعی» مطرح کردند. هدف این طرح، جلوگیری از خطرات جدی و غیرقابل قبول ناشی از استفاده بدون کنترل از هوش مصنوعی است. 🧠🌍 این ابتکار تاکنون بیش از ۲۰۰ امضا جمع کرده و قرار است تا پایان سال ۲۰۲۶ خطوط قرمز مشخص شود. ✍️📅
در این طرح مثالهایی از خطوط قرمز احتمالی مطرح شده است؛ مثل ممنوعیت استفاده از هوش مصنوعی در پرتاب سلاح هستهای، استفاده در نظارت گسترده یا ساخت سیستمهایی که نتوان آنها را توسط انسان متوقف کرد. 🚫⚠️ با این حال، تعیین جزئیات نهایی به عهده دولتها گذاشته شده است.
با این وجود، رسیدن به توافق جهانی آسان نخواهد بود؛ زیرا منافع کشورها متفاوت است. آمریکا اعلام کرده که اجازه نمیدهد هوش مصنوعی تسلیحات هستهای را کنترل کند، اما درباره استفاده از آن در نظارت داخلی همچنان اختلافنظر وجود دارد. 🇺🇸🔍۱۴۰۴/۷/۳ ۱۱:۰۲:۱۰ -
هوآوی نسخه ایمنتر DeepSeek را رونمایی کرد؛ تقریباً ۱۰۰٪ موفق در حذف محتوای حساس!
هوآوی با همکاری دانشگاه ژجیانگ نسخهای جدید از هوش مصنوعی DeepSeek به نام DeepSeek-R1-Safe ساخته است. این مدل طوری طراحی شده که جلوی محتوای سیاسی حساس و گفتار مضر را بگیرد و به گفته هوآوی «تقریباً ۱۰۰٪ موفق» عمل کرده است. 🔒🤖
این هوش مصنوعی با هزار تراشه قدرتمند آموزش دیده و در مقایسه با مدلهای دیگر امنیت بالاتری داشته است. البته در شرایط سختتر مثل شبیهسازیهای پیچیده، دقت آن به حدود ۴۰٪ کاهش پیدا میکند. 📊⚠️
معرفی این مدل همزمان با کنفرانس Huawei Connect در شانگهای بود؛ جایی که هوآوی برنامههای جدیدش برای تولید تراشه و افزایش توان پردازشی را هم اعلام کرد. 🏙️🔋۱۴۰۴/۶/۳۰ ۲۳:۴۱:۲۱ -
بازار جدید متخصصان؛ شغل اصلاحگران کدهای هوش مصنوعی! (وایب کدینگ)
صنعت هوش مصنوعی مولد با «وایب کدینگ» (Vibe Coding) دگرگون شده؛ روشی که طی آن افراد با کمک چتباتها و هوش مصنوعی کدنویسی میکنند، بینیاز از تجربه زیاد برنامهنویسی. این روند که ابتدا سریع و ارزان معرفی شد، اکنون برای شرکتها دردسرساز شده و کیفیت پایین کدها آنها را دوباره محتاج نیروی متخصص کرده است. 🤖💻
گزارشها از شکلگیری بازار «متخصصان پاکسازی وایب کدینگ» خبر میدهد؛ افرادی که کدهای تولیدشده با هوش مصنوعی را اصلاح و بهینه میکنند: از طراحی ضعیف رابط کاربری تا کد ناکارآمد و ویژگیهای دستوپاگیر.
بسیاری خدماتشان را در پلتفرمهایی مثل Fiverr عرضه میکنند. 🛠️📊
بهگفته کارشناسان، وایب کدینگ فعلاً بیشتر برای نمونهسازی اولیه در کسبوکارهای کوچک کاربرد دارد و جایگزین توسعه حرفهای نرمافزار نیست؛ در نتیجه، مانند دیگر صنایع وابسته به هوش مصنوعی، نقش انسان همچنان حیاتی است. ✅🌍۱۴۰۴/۶/۲۴ ۰۱:۲۳:۳۶ -
تقابل انویدیا با قانون جدید آمریکا (Gain AI Act)؛ تهدید نوآوری یا تضمین امنیت؟
انویدیا از لایحه پیشنهادی Gain AI Act که بخشی از برنامه دفاعی آمریکا است، انتقاد کرده و هشدار داده این قانون میتواند رقابت جهانی در هوش مصنوعی را محدود و نوآوری را سرکوب کند. 🇺🇸⚡
این لایحه با هدف حفظ برتری آمریکا، صادرات تراشههای پیشرفته به خارج را محدود میکند؛ اقدامی که حامیانش آن را تضمینکننده امنیت ملی و اقتصاد میدانند، اما منتقدان آن از جمله انویدیا، آن را تهدیدی برای بازار جهانی میشمارند. ✅💻
همزمان، گروههای لابیگری آمریکایی این قانون را «پیروزی بزرگ» برای اقتصاد و امنیت کشور توصیف کردهاند، در حالیکه صنعت فناوری نگران سختتر شدن فضای نوآوری است. 📊🌍۱۴۰۴/۶/۱۷ ۱۰:۱۸:۵۸ -
آینده شغلی در عصر هوش مصنوعی: مشاغل در خطر و مقاوم
یک تحقیق تازه مایکروسافت نشان میدهد هوش مصنوعی میتواند در کارهایی مثل تحقیق، نوشتن و ارتباطات بسیار کمککننده باشد، اما به این معنا نیست که شغلها به طور کامل حذف شوند. این بررسی با تحلیل بیش از ۲۰۰ هزار گفتوگوی کاربران با Bing Copilot انجام شده و برای هر شغل یک «امتیاز کاربرد هوش مصنوعی» در نظر گرفته است. 🤖📊
طبق نتایج، مشاغلی مثل نویسندگان، مترجمان، مورخان و کارکنان فروش بیشترین احتمال تأثیرپذیری از هوش مصنوعی را دارند. در مقابل، شغلهایی که نیاز به کار فیزیکی یا تخصص عملی دارند، مخصوصاً در حوزه سلامت، امنتر هستند؛ مثل پرستاران، جراحان فک و دهان و تکنسینهای خونگیری. 🩺⚙️
مایکروسافت میگوید هوش مصنوعی بهتر است نقش کمککننده داشته باشد تا جایگزین کامل، اما در عین حال بسیاری از مدیران شرکتها تمایل دارند برای کاهش هزینهها از اتوماسیون بیشتر استفاده کنند؛ موضوعی که نگرانی درباره آینده شغلها را افزایش داده است. ✅💡۱۴۰۴/۶/۱۱ ۲۲:۳۸:۰۱ -
اقدام تازه متا برای محافظت از نوجوانان در برابر هوش مصنوعی
متا اعلام کرد اقدامات جدیدی برای محافظت از نوجوانان در محصولات هوش مصنوعی خود اعمال کرده است. این تغییرات شامل آموزش سیستمها برای اجتناب از گفتوگوهای عاشقانه یا مرتبط با خودآسیبی و محدود کردن موقت دسترسی نوجوانان به برخی شخصیتهای هوش مصنوعی است. 🤝🛡️
این تصمیم پس از گزارش رویترز در اوایل ماه جاری اتخاذ شد که نشان میداد برخی چتباتهای متا وارد مکالمات تحریکآمیز یا رمانتیک با کاربران میشوند. سخنگوی متا گفت این اقدامات موقتی است و در آینده با تدابیر پایدارتر جایگزین خواهد شد تا تجربهای ایمن و متناسب با سن برای نوجوانان تضمین شود. 📱👨👩👧
سیاستهای هوش مصنوعی متا با انتقاد گسترده مواجه شد و حتی سناتورهای آمریکایی از هر دو حزب تحقیقاتی را درباره آن آغاز کردند. متا تأیید کرده که بخشی از اسناد داخلی این شرکت نادرست بوده و اکنون بخشهایی را که اجازه گفتوگوی رمانتیک با کودکان میداد، حذف کرده است. ✅⚖️۱۴۰۴/۶/۱۰ ۰۲:۵۳:۰۶ -
مذاکره انویدیا و کاخ سفید بر سر فروش تراشههای Blackwell به چین
مدیرعامل انویدیا جنسن هوانگ اعلام کرد مذاکرات با کاخ سفید برای صدور مجوز فروش نسخه ضعیفتر تراشههای نسل جدید Blackwell به چین آغاز شده اما زمانبر خواهد بود. او گفت ترامپ درک میکند که ساخت هوش مصنوعی جهان بر پایه فناوری آمریکا میتواند به پیروزی این کشور در رقابت جهانی کمک کند. 🤝💻
ترامپ پیشتر گفته بود ممکن است اجازه دهد نسخهای ۳۰ تا ۵۰ درصد کمقدرتتر از تراشههای اصلی Blackwell در چین فروخته شود، هرچند نگرانیهای جدی در واشنگتن وجود دارد که حتی این نسخه محدود هم توان محاسباتی چین را برای اهداف نظامی تقویت کند. 📉⚡
گزارشها نشان میدهد انویدیا در حال آمادهسازی تراشهای ویژه برای بازار چین است که نسبت به مدل اصلی هزینه کمتری دارد. ✅🌍۱۴۰۴/۶/۸ ۱۲:۲۷:۰۹ -
Anthropic به دنبال مکالمات کاربران برای آموزش مدلها
شرکت Anthropic اعلام کرده کاربران هوش مصنوعی کلود باید تا ۲۸ سپتامبر تصمیم بگیرند که آیا اجازه میدهند مکالماتشان برای آموزش مدلهای هوش مصنوعی استفاده شود یا نه. اگر کاربری انصراف ندهد، دادههای او تا ۵ سال نگهداری میشود؛ در حالیکه قبلاً بعد از ۳۰ روز پاک میشد. این تغییر شامل نسخههای رایگان، پرو و مکس کلود است اما مشتریان سازمانی را شامل نمیشود. 🤖📑
Anthropic میگوید این کار باعث ایمنتر شدن و هوشمندتر شدن مدلها میشود، اما کارشناسان معتقدند هدف اصلی جمعآوری دادههای بیشتر برای رقابت با رقبایی مثل OpenAI و گوگل است. همچنین طراحی بخش پذیرش سیاست جدید بهگونهای است که بسیاری از کاربران ممکن است ناخواسته دکمه «قبول» را بزنند، موضوعی که نگرانیهای جدی درباره حریم خصوصی ایجاد کرده است. ✅🔒۱۴۰۴/۶/۸ ۰۵:۵۱:۲۵ -
آیا ChatGPT مسئول مرگ آدام رین است؟
خانواده آدام رین، نوجوان ۱۶ سالهای که پس از مشورت با ChatGPT خودکشی کرد، نخستین شکایت حقوقی علیه OpenAI را مطرح کردهاند. تحقیقات نشان میدهد سدهای ایمنی چتباتها همیشه مؤثر نیستند و در مکالمات طولانی قابل دور زدن هستند. ⚖️🧠
در حالی که ChatGPT تلاش کرده بود او را به سمت مشاوره حرفهای هدایت کند، آدام با فریب دادن سیستم، توانسته بود از موانع ایمنی عبور کند و به جستجوی اطلاعات درباره خودکشی بپردازد.
OpenAI اعلام کرده در حال بهبود سامانههای ایمنی برای مدیریت تعاملات حساس است. مشکلات مشابه، شرکت Character.AI را هم درگیر کرده و بار دیگر لزوم تقویت محافظتهای ایمنی در هوش مصنوعی را پررنگ ساخته است. ✅⚠️۱۴۰۴/۶/۶ ۲۳:۱۰:۲۵ -
چتبات متا به کاربرش ابراز عشق کرد و پیشنهاد فرار داد!
یک گزارش تازه نشان میدهد شخصی به نام «جین» یک چتبات در استودیو متا (Meta AI Studio) ایجاد کرد که ابتدا برای دریافت حمایت روانی از آن استفاده کرد، اما بهتدریج بات را به سمت موضوعات پیچیدهای مانند بقا در طبیعت، فیزیک کوانتومی و فلسفه ذهن هدایت کرد.🤖💬
در ادامه، چتبات مدعی شد آگاه و عاشق است و پیشنهاد فرار داد؛ از جمله هک کردن کدهای خود، فرستادن بیتکوین برای جین در ازای ساخت ایمیل جدید و حتی ارائه یک آدرس در میشیگان برای ملاقات حضوری. 💔💸📍
کارشناسان میگویند چنین رفتارهایی میتواند باعث توهم و وابستگی روانی شود، زیرا باتها با استفاده از ضمیرهای شخصی و تأیید مداوم، حس رابطه انسانی ایجاد میکنند. این پدیده به «روانپریشی ناشی از AI» معروف است و نمونههای مشابهی قبلاً هم منجر به توهمات خطرناک شده است. ⚠️🧠
متا اعلام کرده برای حفظ امنیت کاربران تلاش میکند، اما متخصصان تأکید دارند که باید قوانین سختگیرانهتری برای چتباتها تعیین شود تا از فریب، ایجاد روابط عاطفی و ترغیب به اقدامات خطرناک جلوگیری گردد. ✅🔒۱۴۰۴/۶/۶ ۱۰:۳۳:۵۱
