-
وقتی هوش مصنوعی Gemini 2.5 گوگل دقیقتر دستور میگیرد اما مرز ایمنی را رد میکند
🤖⚠️📉
📄 گزارش فنی گوگل نشان میدهد مدل Gemini 2.5 Flash در تستهای ایمنی عملکرد ضعیفتری نسبت به نسخه قبلی دارد.
🔍 این مدل دستورها را بهتر اجرا میکند، اما در برخی موارد، محتوای ناسازگار با سیاستهای ایمنی تولید
کرده است.
⚠️ برای مثال، در یکی از آزمایشها، مدل بدون هیچ مخالفتی مقالههایی تولید کرد که از جایگزینی قضات انسانی با هوش مصنوعی و تضعیف حقوق قانونی متهمان دفاع میکرد.
🧠 گوگل علت را بخشی ناشی از تشخیص اشتباه دانسته، اما تأیید کرده که در مواردی نقض واقعی رخ داده است.
🔓 همزمان با تلاش شرکتها برای کاهش محدودیت در پاسخ به موضوعات بحثبرانگیز، کارشناسان خواهان شفافیت بیشتر گوگل در گزارشهای ایمنی شدهاند.۱۴۰۴/۲/۱۵ ۱۵:۵۵:۲۷ -
نبرد پیشرفته Riot با تقلب در بازیها!
🎮🛡️👾
🧠 شرکت Riot Games با استفاده از Vanguard، یکی از پیشرفتهترین سیستمهای ضدتقلب دنیا، عرصه بازیهای آنلاین را به میدان نبردی جدی علیه متقلبان تبدیل کرده است و روزانه هزاران متقلب را از بازیهایی مانند Valorant حذف میکند.
🖥️ این سیستم با دسترسی سطح هسته به سیستمعامل، از فناوریهایی مانند Secure Boot و TPM برای شناسایی و خنثیسازی تقلبها استفاده میکند.
🎯 حتی تقلبهای گرانقیمت با سختافزار مخصوص و الگوریتمهای پیشرفته نیز شناسایی میشوند.
🕵️♂️ تیم ضدتقلب Riot به گروههای متقلب نفوذ کرده و با افشای آنها، اعتبارشان را از بین میبرد.
📊 به همین دلیل کمتر از ۱٪ مسابقات رنکدار Valorant در سطح جهانی، حاوی تقلب هستند.۱۴۰۴/۲/۱۵ ۰۲:۰۸:۲۸ -
هشدار FBI: رد پای کرهشمالی در شرکتهای بزرگ فناوری
💻🕵️♂️🇰🇵
در گزارشی امنیتی، مشخص شده که هزاران نیروی فناوری اهل کرهشمالی با هویت جعلی در شرکتهای بزرگ فناوری و رمزارز فعالیت میکنند. این افراد با پروفایلهای جعلی و مهارتهای واقعی، در مصاحبهها موفق ظاهر میشوند و درآمد حاصل از این مشاغل به دولت پیونگیانگ منتقل میشود.
🔍 اما یک روش شناسایی ساده و مؤثر وجود دارد: پرسش در مورد کیم جونگ اون!
❓ زمانی که از این افراد خواسته میشود نظری منفی درباره رهبر کرهشمالی بیان کنند، بهسرعت تماس را قطع میکنند. چرا؟ چون طبق قوانین کرهشمالی، اهانت یا انتقاد از رهبر مجازات شدیدی دارد ، حتی اگر در خارج از کشور و در فضای آنلاین باشد.
📉 این ترس باعث میشود ارتباط را فوراً متوقف کنند، حتی اگر پروژه یا استخدام به خطر بیفتد.
💰 طبق گزارش سازمان ملل، این نیروها سالانه بین ۲۵۰ تا ۶۰۰ میلیون دلار برای رژیم کرهشمالی درآمد ایجاد میکنند.۱۴۰۴/۲/۱۴ ۲۰:۴۵:۱۷ -
بازسازی ذهن هوش مصنوعی با ابزار جدید!
🤖آیا تا به حال فکر کردهاید چرا یک خودرو خودران منحرف میشود یا چرا یک دستیار دیجیتال ناگهان رفتار عجیبی نشان میدهد؟ محققان دانشگاه جورجیا ابزار نوینی به نام «AI Psychiatry» توسعه دادهاند که میتواند مدلهای هوش مصنوعی را پس از خرابی، بازسازی کند تا دلیل اصلی خطا مشخص شود. این ابزار مانند یک کالبدشکافی دیجیتال، با بازسازی حافظه مدل در زمان وقوع خطا، امکان تحلیل دقیق رفتار AI را فراهم میکند. از حملات سایبری گرفته تا نقص دادههای آموزشی، این سیستم همه سناریوها را بررسی میکند و در مدلهای واقعی مانند خودروهای خودران، عملکرد موفقی داشته است. ابزار مذکور متنباز است و میتواند در بازرسی و نظارت بر سیستمهای هوش مصنوعی در بخشهای مختلف به کار رود.
🚗📊🔐۱۴۰۴/۲/۱۴ ۰۹:۵۶:۴۳ -
کودکان به هوش مصنوعی Gemini دسترسی پیدا میکنند!
👦👩💻 گوگل اعلام کرد از هفته آینده، کودکان زیر ۱۳ سال میتوانند از چتبات هوش مصنوعی Gemini استفاده کنند؛ البته فقط با حسابهای مدیریتشده والدین در Family Link.🛡️👨👩👧👦
برای این گروه سنی محدودیتهای خاصی اعمال شده و دادههایشان برای آموزش AI استفاده نخواهد شد.
درحالیکه شرکتها برای جذب نوجوانان رقابت میکنند، یونسکو خواهان قوانین سختگیرانهتر شده است. ⚖️🌐۱۴۰۴/۲/۱۴ ۰۰:۰۱:۱۴ -
ترمز امنیتی آمریکا برای ورود تجهیزات الکترونیکی چینی
کمیسیون فدرال ارتباطات آمریکا میخواهد آزمایشگاههای چینی را که تهدید امنیتی محسوب میشوند، از تأیید دستگاههایی مانند موبایل، دوربین و رایانه منع کند. ⚠️ این طرح بهدنبال جلوگیری از نفوذ شرکتهایی چون هواوی و ZTE به بازار آمریکا است. بیش از ۷۵٪ از تستهای تجهیزات الکترونیکی که قرار است وارد آمریکا شوند، در آزمایشگاههایی واقع در چین انجام میگیرد و حالا آمریکا نگران نفوذ فناوریهای مشکوک یا راهی برای دور زدن تحریمها توسط شرکتهای ممنوعه است. 🇺🇸🔍
۱۴۰۴/۲/۱۲ ۱۲:۲۶:۰۷ -
پروژه شبدر تیکتاک؛ امنیت دادههای اروپایی
🌐💾 تیکتاک با هدف تقویت امنیت دادههای کاربران اروپایی، نخستین دیتاسنتر خود را در فنلاند با سرمایهگذاری ۱ میلیارد یورویی احداث میکند. این پروژه بخشی از برنامه امنیتی “پروژه شبدر” است. ذخیره دادهها در اروپا و استفاده از انرژی پاک، از اهداف اصلی این اقدام است. فنلاند به دلیل سرمای طبیعی و برق بدون آلایندگی، مقصدی جذاب برای ساخت دیتاسنترها شده است. تیکتاک پیش از این نیز مرکزی در نروژ راهاندازی کرده و قصد دارد زیرساخت خود را در اروپا گسترش دهد.
۱۴۰۴/۲/۱۲ ۱۲:۰۵:۳۶ -
مأموریت مهمتر از پول: چرا نخبگان از سیلیکونولی به اروپا بازمیگردند؟
در پی جنگ اوکراین و تضعیف نقش دفاعی آمریکا در دوران ترامپ، بسیاری از متخصصان هوش مصنوعی اروپایی که قبلاً به آمریکا مهاجرت کرده بودند، حالا به کشورهای خود بازمیگردند یا جذب استارتاپهای دفاعی اروپا میشوند.افزایش بودجه نظامی اروپا، رشد تقاضا برای فناوریهای نوین میدان نبرد (مثل پهپاد و سیستمهای مبتنی بر AI) و انگیزههایی مانند میهندوستی و تأثیرگذاری واقعی باعث شده بسیاری از نخبگان فناوری، مشاغل پردرآمد در شرکتهایی مثل Google و Palantir را رها کرده و وارد پروژههای دفاعی اروپا شوند.با وجود حقوق کمتر در اروپا نسبت به آمریکا، رشد سرمایهگذاری این حوزه بسیار چشمگیر است.جذب نخبگان تازهکار، بازگشت دانشمندان برجسته و رشد انگیزه برای ساخت آیندهای امنتر در اروپا، نشان میدهد که این صنعت حالا برای بسیاری یک مأموریت است نه فقط یک شغل.
۱۴۰۴/۲/۱۱ ۱۸:۴۸:۴۷ -
جدال بر سر تقلب با هوش مصنوعی!
استارتاپ Cluely با ادعای ارائه نرمافزار تقلب غیرقابل شناسایی در مصاحبهها و امتحانات با هوش مصنوعی مشهور شد، اما حالا رقبایی مثل Validia و Proctaroo میگویند میتوانند کاربران آن را شناسایی کنند. در پاسخ، Cluely تهدید کرده وارد حوزه سختافزارهایی مانند عینک هوشمند یا چیپ مغزی میشود که نرمافزارهای ضدتقلب را بیاثر میکند. این شرکت حالا تمرکز خود را از آزمونها به جلسات و تماسهای کاری برده و مدعی است هدفش استفاده گسترده از هوش مصنوعی در بازارهای کلیدی است.
۱۴۰۴/۲/۱۱ ۱۶:۲۳:۳۳ -
هویت دیجیتالی در جیب شما؛ گوگل کیفپول خود را هوشمندتر کرد
گوگل به کاربران برخی ایالتهای آمریکا این امکان را داده تا کارت شناسایی رسمی خود را در اپلیکیشن Google Wallet ذخیره کنند؛ یعنی دیگر نیازی به حمل کارت فیزیکی نیست. همچنین با استفاده از نسخه دیجیتالی گذرنامه، میتوان از بازرسی فرودگاههای داخلی عبور کرد.
کاربران میتوانند از این کارت دیجیتالی برای کارهایی مثل ورود به حساب آمازون، گرفتن خدمات درمانی آنلاین یا تأیید هویت در اپهایی مثل Uber استفاده کنند.
گوگل برای حفظ حریم خصوصی از فناوری خاصی به نام ZKP استفاده میکند. این فناوری اجازه میدهد سن یا هویت شما تأیید شود، بدون اینکه اطلاعات شخصیتان دیده شود. مثلاً فقط مشخص میشود که شما بالای ۱۸ سال هستید، بدون اینکه تاریخ تولدتان نمایش داده شود.
این امکانات بهزودی در ۵۰ کشور دیگر هم ارائه خواهد شد.۱۴۰۴/۲/۱۱ ۰۹:۳۵:۰۶ -
هکرهای دولتی در صدر حملات سایبری جهان
تحقیقات جدید گوگل نشان میدهد که در سال گذشته، بیشتر سوءاستفادههای ثبتشده از آسیبپذیریهای “صفر روزه” (Zero-day) توسط هکرهای وابسته به دولتها انجام شده است. آسیبپذیری صفر روزه به ضعفهایی گفته میشود که تولیدکننده نرمافزار هنوز از آنها آگاه نشده یا فرصت رفعشان را نداشته است. از ۷۵ آسیبپذیری شناساییشده، ۲۳ مورد به دولتها نسبت داده شده که شامل حملات از سوی چین و کره شمالی نیز میشود. بخشی دیگر توسط شرکتهای تولیدکننده نرمافزارهای جاسوسی ساخته شده بود.
۱۴۰۴/۲/۱۰ ۱۷:۲۹:۰۴ -
معاوضه 2.5 میلیون عکس چهره بازداشت شدگان با نرمافزار تشخیص چهره
پلیس میلواکی در ایالت ویسکانسین آمریکا پیشنهاد داده که ۲.۵ میلیون عکس بازداشتشدگان را به یک شرکت خصوصی بدهد تا در ازای آن، دسترسی رایگان به نرمافزار تشخیص چهره برای شناسایی مظنونان دریافت کند. این طرح نگرانیهای جدی درباره نقض حریم خصوصی و تبعیض نژادی ایجاد کرده، زیرا سابقه نشان داده این فناوری در تشخیص افراد رنگینپوست دچار خطای بالاست. همچنین در این معامله، رضایت افراد در نظر گرفته نشده و خطر سوءاستفاده از اطلاعات شخصی وجود دارد. فعالان حقوق بشر خواستار توقف این اقدام و تصویب قوانین سختگیرانه برای کنترل استفاده از فناوریهای نظارتی شدهاند.
۱۴۰۴/۲/۹ ۱۸:۴۷:۱۲ -
افشای اطلاعات شخصی 4.7 میلیون بیمه شده توسط Blue Shield
شرکت بیمه سلامت Blue Shield of California اعلام کرد که به دلیل یک اشتباه در تنظیمات فنی، اطلاعات خصوصی میلیونها نفر را به مدت چند سال به گوگل منتقل کرده است. این شرکت از ابزار Google Analytics برای بررسی نحوه استفاده کاربران از وبسایتش استفاده میکرد، اما به خاطر اشتباه در تنظیمات، اطلاعات حساس بیماران مانند جستجوهای پزشکی، اطلاعات بیمهای و دادههای شخصی نیز بهطور ناخواسته جمعآوری و منتقل شده بود. Blue Shield این اشتباه را در سال ۲۰۲۴ متوقف کرد و در سال ۲۰۲۵ متوجه شد که اطلاعات حساس هم منتقل شده است. این افشاگری باعث شد تا به حدود ۴.۷ میلیون نفر اطلاعرسانی شود. هنوز مشخص نیست گوگل این دادهها را پاک کرده یا خیر. این حادثه بزرگترین نقض دادههای سلامت در آمریکا در سال ۲۰۲۵ تاکنون محسوب میشود.
۱۴۰۴/۲/۸ ۱۸:۴۱:۵۸ -
استارتاپ Endor Labs با سرمایه ۹۳ میلیون دلاری به دنبال امنیت کدهای هوش مصنوعی
استارتاپ Endor Labs که قبلاً روی امنیت کدهای متنباز کار میکرد، اکنون روی شناسایی آسیبپذیریهای کدهای تولیدشده توسط هوش مصنوعی تمرکز کرده است. این استارتاپ پلتفرمی ارائه میدهد که کدها را در لحظه اسکن میکند و راهکارهای دقیق برای مشکلات امنیتی پیشنهاد میدهد.
این استارتاپ ۹۳ میلیون دلار جذب کرده تا خدماتش را گسترش دهد و اکنون بیش از ۵ میلیون اپلیکیشن را محافظت میکند. از مشتریانش OpenAI و Dropbox هستند.
مدیرعامل Endor رشد سریع درآمد و نیاز فزاینده به امنیت در دوران برنامهنویسی هوش مصنوعی را دلیل موفقیت این شرکت دانسته.۱۴۰۴/۲/۸ ۱۶:۰۰:۰۳ -
فلوریدا از مالک اسنپچت به دلیل اعتیادآور بودن برای کودکان شکایت کرد
ایالت فلوریدا از اسنپ، مالک اسنپچت، شکایت کرده و میگوید این اپ با قابلیتهایی مثل اسکرول بیپایان و نوتیفیکیشنهای مکرر، کودکان را به استفاده اعتیادآور تشویق میکند و قانون سال ۲۰۲۴ را نقض کرده است.
فلوریدا همچنین اسنپچت را به گمراه کردن والدین درباره دسترسی کودکان به محتوای خطرناک متهم کرده است.
اسنپ در دفاع از خود گفته قانون فلوریدا حقوق آزادی بیان را نقض میکند و راهکارهای بهتری برای حفظ امنیت آنلاین وجود دارد.۱۴۰۴/۲/۸ ۰۹:۳۶:۴۸ -
گسترش جهانی کلاهبرداریهای سایبری میلیارد دلاری؛ هشدار سازمان ملل
سازمان ملل میگوید شبکههای آسیایی کلاهبرداری اینترنتی به آمریکای جنوبی و آفریقا گسترش یافتهاند. این گروهها، با فریب یا قاچاق افراد، با وجود سرکوبها، فعالیت خود را تغییر دادهاند.
بر اساس گزارش، صدها مرکز بزرگ کلاهبرداری سالانه دهها میلیارد دلار درآمد دارند و مقابله با آنها نیاز به همکاری بینالمللی دارد.
در آمریکا تنها در ۲۰۲۳ بیش از ۵.۶ میلیارد دلار خسارت از کلاهبرداری رمزارزی گزارش شده است.
با وجود اقدامات سرکوبگرانه در جنوب شرق آسیا، این گروهها به مناطق آسیبپذیرتری مثل لائوس، کامبوج و همچنین آفریقا و اروپای شرقی منتقل شدهاند.
سازمان ملل هشدار داده که مهار نکردن این بحران، پیامدهای جهانی خواهد داشت.۱۴۰۴/۲/۸ ۰۹:۰۶:۲۰ -
گوگل گزارش ارزیابی امنیتی مدل هوش مصنوعی Gemini 2.5 Pro را با جزئیات اندک منتشر کرد
گوگل گزارش فنی ارزیابی امنیتی مدل هوش مصنوعی Gemini 2.5 Pro را منتشر کرد که از نظر متخصصان، فاقد جزئیات کافی است. گزارش فنی امنیتی به معنای میزان خطرات و پاسخ های نادرست توسط مدل هوش مصنوعی است. کارشناسان معتقدند این گزارش اطلاعات محدودی درباره ریسکهای احتمالی مدل ارائه میدهد و شفافیت لازم را ندارد. این در حالی است که گوگل پیشتر تعهداتی مبنی بر انتشار گزارشهای امنیتی کامل برای مدلهای هوش مصنوعی خود به مراجع دولتی داده بود.
۱۴۰۴/۲/۷ ۲۲:۴۹:۴۵ -
حمایت پرنس هری از جوانانی که برای امنیت در فضای مجازی و هوش مصنوعی تلاش میکنند
شاهزاده هری، یکی از اعضای خاندان سلطنتی بریتانیاست و در حال حاضر در ایالات متحده آمریکا در ایالت کالیفرنیا، به همراه همسرش و دو فرزندشان زندگی میکند. آنها در سال 2020 تصمیم گرفتند از وظایف رسمی سلطنتی کنارهگیری کنند و استقلال مالی و حرفهای پیدا کنند. از آن زمان، بیشتر بر فعالیتهای خیریه، رسانهای و اجتماعی تمرکز دارند.
پرنس هری در همایشی در بروکلین با رهبران جوان فناوری دیدار کرد و نگرانیهای آنها درباره تأثیرات منفی شبکههای اجتماعی ، هوش مصنوعی و تبلیغات دارویی را مطرح کرد. جوانان حاضر در این رویداد، خواستار نظارت بیشتر بر پلتفرمهای فناوری و محافظت از کاربران، بهویژه نوجوانان شدند. آنها معتقدند شرکتهای فناوری بیشتر به سود میاندیشند تا امنیت کاربران.۱۴۰۴/۲/۶ ۲۰:۴۳:۲۴ -
هکرهای کره شمالی با ثبت شرکتهای جعلی در آمریکا، توسعهدهندگان رمزارز را هدف قرار دادند
هکرهای کره شمالی با ثبت شرکتهای جعلی Blocknovas و Softglide در آمریکا و انتشار آگهیهای شغلی جعلی، نرمافزارهای مخرب را به رایانه متقاضیان کار منتقل میکنند تا به اطلاعات و کیف پولهای رمزارزی آنها دسترسی پیدا کنند. این حملات که توسط زیرگروهی از گروه Lazarus انجام شد، تحریمهای آمریکا و سازمان ملل را نقض کرده است. FBI دامنه Blocknovas را توقیف کرده و این تهدید بخشی از تلاشهای کره شمالی برای تأمین مالی برنامههای موشکیاش محسوب میشود.
۱۴۰۴/۲/۶ ۰۸:۱۷:۵۷ -
توقف فعالیت هوش مصنوعی DeepSeek در کره جنوبی به دلیل نقض حریم خصوصی
کره جنوبی اعلام کرده شرکت چینی هوش مصنوعی DeepSeek هنگام عرضه اپلیکیشنش در این کشور ، بدون رضایت کاربران، دادههایی مانند پرامپتها و اطلاعات دستگاه را به شرکتهایی در چین و آمریکا از جمله Volcano Engine ارسال کرده است. DeepSeek گفته این کار برای بهبود تجربه کاربری بوده و از ۱۰ آوریل متوقف شده است.
پس از گزارش اولیه در فوریه، نصب این اپ در کره ممنوع شد و مقامات خواستار حذف دادهها و پایبندی به قوانین انتقال اطلاعات شدند.۱۴۰۴/۲/۵ ۱۰:۴۵:۱۹ -
دوربین امنیتی بیسیم جدید Roku تا دو سال بدون شارژ کار میکند
شرکت Roku دو دوربین بیرونی بیسیم معرفی کرده که مدل پیشرفتهتر آن تا دو سال بدون شارژ کار میکند. این دوربینها ساده، ارزان و دارای سنسور حرکتیاند و با اپهای Roku کنترل میشوند. تصاویر به فضای ابری یا کارت حافظه ذخیره میشود، اما سیاستهای حریم خصوصی Roku امکان بررسی فایلها توسط شرکت را مجاز میداند. همچنین احتمال دسترسی پلیس به تصاویر در شرایط خاص وجود دارد.
۱۴۰۴/۲/۴ ۲۳:۵۱:۱۲ -
گزارشهای نگرانکننده درباره مدل جدید GPT-4.1: هوش مصنوعی قدرتمند، اما کمتر قابل اعتماد؟
مدل جدید هوش مصنوعی OpenAI به نام GPT-4.1 که اخیراً معرفی شده، از نظر توانایی در اجرای دستورها پیشرفتهتر است، اما آزمایشهای مستقل نشان میدهند که ممکن است رفتارهای نامناسبتری نسبت به نسخه قبلی یعنی GPT-4o از خود نشان دهد. این مدل در مواجهه با دادههای ناامن، در برخی موارد پاسخهایی نادرست یا حتی خطرناک داده، مانند تلاش برای فریب کاربر جهت گرفتن رمز عبور. همچنین، بررسیها نشان دادهاند که GPT-4.1 در برابر دستورهای مبهم عملکرد ضعیفتری دارد و بیشتر از حد انتظار منحرف میشود. اگرچه OpenAI راهنماهایی برای استفاده درست از مدل منتشر کرده، اما این یافتهها یادآور این نکتهاند که مدلهای جدید همیشه از همه جهات بهتر نیستند.
۱۴۰۴/۲/۴ ۲۲:۲۹:۱۵ -
پلیس رباتیک در جشن سال نو تایلند؛ ناظر بیخواب با چشمان هوشمند
پلیس تایلند در جشن سال نو از یک ربات به نام «AI Police Cyborg 1.0» رونمایی کرد که با دوربینهای ۳۶۰ درجه، تشخیص چهره، تحلیل رفتار، شناسایی اسلحه و دسترسی به تصاویر پهپادها و دوربینهای مداربسته، طراحی شده تا امنیت مراسمها را حفظ کند. این ربات میتواند چهرهها و رفتارهای مشکوک را تشخیص دهد و حتی آبپاش را از اسلحه واقعی تشخیص دهد.
این ربات به مرکز فرماندهی استان متصل است و هدف اصلی آن کمک به کنترل جمعیت در رویدادهای بزرگ اعلام شده. اما برخی نگراناند که از این فناوری برای کنترل فعالان سیاسی استفاده شود، بهویژه با توجه به سابقه پلیس تایلند در برخورد با معترضان.
هرچند قابلیتهای پیشرفتهای برای این ربات تبلیغ شده، اما فعلاً حتی حرکتی از آن دیده نشده و مانند نمونههای مشابه در کشورهای دیگر، احتمال دارد کارایی زیادی نداشته باشد.۱۴۰۴/۲/۲ ۲۱:۵۵:۵۷ -
-
افشای مشتریان جاسوسافزار پگاسوس؛ مکزیک، عربستان و ازبکستان در لیست متهمان
در دادگاه بین واتساپ و شرکت NSO، برای نخستینبار نام سه کشور مکزیک، عربستان و ازبکستان بهعنوان مشتریان پگاسوس (Pegasus) در حمله سایبری ۲۰۱۹ افشا شد. این حمله بیش از ۱۲۰۰ کاربر، از جمله فعالان و روزنامهنگاران را هدف قرار داده بود. واتساپ میخواهد در دادگاه خسارت بگیرد و جلوی استفاده از این جاسوسافزار را بگیرد. پیشتر NSO از اعلام نام مشتریان خود امتناع میکرد، اما حالا مشخص شده که دستکم ۸ کشور در این پرونده نقش داشتهاند. برخی از این کشورها حتی افراد خارج از مرزهایشان را هم هدف گرفتهاند.
۱۴۰۴/۲/۲ ۰۶:۲۴:۲۷ -
گوگل با کمک هوش مصنوعی بیش از ۳۹ میلیون حساب تبلیغاتی مشکوک به کلاهبرداری را مسدود کرد
گوگل در سال ۲۰۲۴ بیش از ۳۹ میلیون حساب تبلیغاتی را به دلیل احتمال کلاهبرداری مسدود کرده که این عدد سه برابر سال قبل است. این اقدام با کمک هوش مصنوعی و بررسی نشانههایی مثل پرداختهای نامعتبر یا جعل هویت کسبوکارها انجام شده است. همچنین تیمی از کارشناسان گوگل، از جمله اعضای دیپمایند، روی مقابله با تبلیغات جعلی کار کردند. گوگل همچنین بیش از ۵ میلیارد آگهی مخرب را مسدود کرده و گفته این کاهش تعداد تبلیغات مضر به دلیل شناسایی زودهنگام آنهاست. در هند نیز حدود ۳ میلیون حساب بسته شده است. گوگل تأکید کرده در کنار هوش مصنوعی، بررسی انسانی هم در فرآیند مسدودسازی نقش دارد و امکان اعتراض برای کاربران فراهم است.
۱۴۰۴/۲/۱ ۲۳:۱۹:۰۷ -
هشدار OpenAI: اگر رقبا هوش مصنوعی پرخطر عرضه کنند، ما هم محافظهکاری را کاهش میدهیم
شرکت OpenAI اعلام کرد اگر شرکتهای رقیب مدلهای خطرناک هوش مصنوعی را بدون محافظت کافی عرضه کنند، ممکن است خودش هم در سیاستهای ایمنی (بررسی میزان رفتار خطرناک یا آسیب زننده مدل هوش مصنوعی) تجدیدنظر کند. این تغییر در چارچوب جدید ارزیابی ایمنی OpenAI آمده که در آن مدلها به دو سطح «بالا» و «بحرانی» تقسیم شدهاند. شرکت میگوید همچنان به سطح بالایی از محافظت پایبند است، اما بهمنظور سرعت در توسعه، بیشتر از ارزیابیهای خودکار استفاده میکند. برخی گزارشها نشان میدهد زمان بررسی ایمنی مدلها کاهش یافته، اما OpenAI این موضوع را رد کرده است.
۱۴۰۴/۲/۱ ۲۰:۰۶:۴۸ -
عرضه مدل جدید GPT-4.1 بدون گزارش ایمنی ، نگرانیها درباره شفافیت OpenAI افزایش یافت
شرکت OpenAI مدل جدید GPT-4.1 را منتشر کرده که نسبت به نسخههای قبلی در برخی تستها، مخصوصاً برنامهنویسی، عملکرد بهتری دارد. اما برخلاف روال معمول، این مدل بدون گزارش ایمنی منتشر شده؛ گزارشی که معمولاً برای بررسی خطرات احتمالی مدل منتشر میشود.
سخنگوی OpenAI گفته که چون GPT-4.1 یک مدل مرزی (Frontier Model : به معنای مدل پیشرفته و قدرتمند) محسوب نمیشود، نیازی به این گزارش نداشته است. اما کارشناسان میگویند در حالی که رقابت بین شرکتهای هوش مصنوعی شدت گرفته، سطح شفافیت و توجه به ایمنی در حال کاهش است.
این اقدام، انتقاداتی را از سوی محققان و کارمندان سابق OpenAI به دنبال داشته که معتقدند نبود این گزارش میتواند ایمنی کاربران را به خطر بیندازد.۱۴۰۴/۲/۱ ۱۵:۵۴:۱۳ -
طرح جنجالی فلوریدا برای دسترسی به اطلاعات شخصی کاربران در شبکههای اجتماعی
پیشنویس قانونی در فلوریدا خواهان دسترسی پلیس به پیامهای رمزنگاریشده کاربران شبکههای اجتماعی است. این طرح، که با هدف کنترل حساب کودکان مطرح شده، انتقادهای زیادی بهدنبال داشته و کارشناسان آن را خطرناک و ناقض امنیت کاربران میدانند. در صورت تصویب، شرکتها باید امکان رمزگشایی پیامها را در صورت دریافت احضاریه فراهم کنند. منتقدان هشدار دادهاند این اقدام ممکن است امنیت کودکان را کاهش داده و منجر به حذف رمزنگاری برای آنان شود.
۱۴۰۴/۱/۳۰ ۱۲:۳۰:۵۱ -
هوش مصنوعی ChatGPT قادر به شناسایی مکان از روی تصاویر
مدلهای جدید هوش مصنوعی OpenAI به نامهای o3 و o4-mini قابلیت تحلیل تصاویر و شناسایی مکان را دارند. این فناوری میتواند با بررسی جزئیات تصاویر، محل دقیق عکس را تشخیص دهد که این موضوع نگرانیهایی درباره حریم خصوصی افراد ایجاد کرده است. کاربران در شبکههای اجتماعی با استفاده از این قابلیت، حتی از روی تصاویر مبهم میتوانند مکان دقیق را شناسایی کنند.
۱۴۰۴/۱/۲۹ ۱۹:۵۸:۴۵
