• استارتاپ Endor Labs با سرمایه ۹۳ میلیون دلاری به دنبال امنیت کدهای هوش مصنوعی

    استارتاپ Endor Labs که قبلاً روی امنیت کدهای متن‌باز کار می‌کرد، اکنون روی شناسایی آسیب‌پذیری‌های کدهای تولیدشده توسط هوش مصنوعی تمرکز کرده است. این استارتاپ پلتفرمی ارائه می‌دهد که کدها را در لحظه اسکن می‌کند و راهکارهای دقیق برای مشکلات امنیتی پیشنهاد می‌دهد.
    این استارتا‌پ ۹۳ میلیون دلار جذب کرده تا خدماتش را گسترش دهد و اکنون بیش از ۵ میلیون اپلیکیشن را محافظت می‌کند. از مشتریانش OpenAI و Dropbox هستند.
    مدیرعامل Endor رشد سریع درآمد و نیاز فزاینده به امنیت در دوران برنامه‌نویسی هوش مصنوعی را دلیل موفقیت این شرکت دانسته.

    ۱۴۰۴/۲/۸ ۱۶:۰۰:۰۳

  • فلوریدا از مالک اسنپ‌چت به دلیل اعتیادآور بودن برای کودکان شکایت کرد

    ایالت فلوریدا از اسنپ، مالک اسنپ‌چت، شکایت کرده و می‌گوید این اپ با قابلیت‌هایی مثل اسکرول بی‌پایان و نوتیفیکیشن‌های مکرر، کودکان را به استفاده اعتیادآور تشویق می‌کند و قانون سال ۲۰۲۴ را نقض کرده است.
    فلوریدا همچنین اسنپ‌چت را به گمراه کردن والدین درباره دسترسی کودکان به محتوای خطرناک متهم کرده است.
    اسنپ در دفاع از خود گفته قانون فلوریدا حقوق آزادی بیان را نقض می‌کند و راهکارهای بهتری برای حفظ امنیت آنلاین وجود دارد.

    ۱۴۰۴/۲/۸ ۰۹:۳۶:۴۸

  • افزایش حملات سایبری و خرابکاری روسیه علیه اروپا

    اطلاعات نظامی هلند اعلام کرد روسیه حملات خود علیه هلند و اروپا را افزایش داده و برای نخستین بار سعی کرده کنترل یک خدمت عمومی در هلند را به دست گیرد که این حمله ناکام ماند.
    علاوه بر آن، نشانه‌هایی از برنامه‌ریزی روسیه برای خرابکاری در زیرساخت‌های حیاتی دیده شده است. تهدیدات شامل خرابکاری، حملات سایبری، جاسوسی و انتشار اطلاعات نادرست است.
    اطلاعات هلند هشدار داده که سرعت توسعه نظامی روسیه از اروپا بیشتر است و اروپا باید آمادگی نظامی خود را افزایش دهد.

    ۱۴۰۴/۲/۸ ۰۹:۳۶:۴۵

  • گسترش جهانی کلاهبرداری‌های سایبری میلیارد دلاری؛ هشدار سازمان ملل

    سازمان ملل می‌گوید شبکه‌های آسیایی کلاهبرداری اینترنتی به آمریکای جنوبی و آفریقا گسترش یافته‌اند. این گروه‌ها، با فریب یا قاچاق افراد، با وجود سرکوب‌ها، فعالیت خود را تغییر داده‌اند.
    بر اساس گزارش، صدها مرکز بزرگ کلاهبرداری سالانه ده‌ها میلیارد دلار درآمد دارند و مقابله با آن‌ها نیاز به همکاری بین‌المللی دارد.
    در آمریکا تنها در ۲۰۲۳ بیش از ۵.۶ میلیارد دلار خسارت از کلاهبرداری رمزارزی گزارش شده است.
    با وجود اقدامات سرکوبگرانه در جنوب شرق آسیا، این گروه‌ها به مناطق آسیب‌پذیرتری مثل لائوس، کامبوج و همچنین آفریقا و اروپای شرقی منتقل شده‌اند.
    سازمان ملل هشدار داده که مهار نکردن این بحران، پیامدهای جهانی خواهد داشت.

    ۱۴۰۴/۲/۸ ۰۹:۰۶:۲۰

  • گوگل گزارش ارزیابی امنیتی مدل هوش مصنوعی Gemini 2.5 Pro را با جزئیات اندک منتشر کرد

    گوگل گزارش فنی ارزیابی امنیتی مدل هوش مصنوعی Gemini 2.5 Pro را منتشر کرد که از نظر متخصصان، فاقد جزئیات کافی است. گزارش فنی امنیتی به معنای میزان خطرات و پاسخ های نادرست توسط مدل هوش مصنوعی است. کارشناسان معتقدند این گزارش اطلاعات محدودی درباره ریسک‌های احتمالی مدل ارائه می‌دهد و شفافیت لازم را ندارد. این در حالی است که گوگل پیش‌تر تعهداتی مبنی بر انتشار گزارش‌های امنیتی کامل برای مدل‌های هوش مصنوعی خود به مراجع دولتی داده بود.

    ۱۴۰۴/۲/۷ ۲۲:۴۹:۴۵

  • حمایت پرنس هری از جوانانی که برای امنیت در فضای مجازی و هوش مصنوعی تلاش می‌کنند

    شاهزاده هری، یکی از اعضای خاندان سلطنتی بریتانیاست و در حال حاضر در ایالات متحده آمریکا در ایالت کالیفرنیا، به همراه همسرش و دو فرزندشان زندگی می‌کند. آن‌ها در سال 2020 تصمیم گرفتند از وظایف رسمی سلطنتی کناره‌گیری کنند و استقلال مالی و حرفه‌ای پیدا کنند. از آن زمان، بیشتر بر فعالیت‌های خیریه، رسانه‌ای و اجتماعی تمرکز دارند.‏
    ‏پرنس هری در همایشی در بروکلین با رهبران جوان فناوری دیدار کرد و نگرانی‌های آنها درباره تأثیرات منفی شبکه‌های اجتماعی ، هوش مصنوعی و تبلیغات دارویی را مطرح کرد. جوانان حاضر در این رویداد، خواستار نظارت بیشتر بر پلتفرم‌های فناوری و محافظت از کاربران، به‌ویژه نوجوانان شدند. آنها معتقدند شرکت‌های فناوری بیشتر به سود می‌اندیشند تا امنیت کاربران.

    ۱۴۰۴/۲/۶ ۲۰:۴۳:۲۴

  • هکرهای کره شمالی با ثبت شرکت‌های جعلی در آمریکا، توسعه‌دهندگان رمزارز را هدف قرار دادند

    هکرهای کره شمالی با ثبت شرکت‌های جعلی Blocknovas و Softglide در آمریکا و انتشار آگهی‌های شغلی جعلی، نرم‌افزارهای مخرب را به رایانه متقاضیان کار منتقل می‌کنند تا به اطلاعات و کیف پول‌های رمزارزی آنها دسترسی پیدا کنند. این حملات که توسط زیرگروهی از گروه Lazarus انجام شد، تحریم‌های آمریکا و سازمان ملل را نقض کرده است. FBI دامنه Blocknovas را توقیف کرده و این تهدید بخشی از تلاش‌های کره شمالی برای تأمین مالی برنامه‌های موشکی‌اش محسوب می‌شود.

    ۱۴۰۴/۲/۶ ۰۸:۱۷:۵۷

  • فیس‌بوک علیه محتوای اسپم و جعلی اقدام می‌کند

    فیس‌بوک تصمیم گرفته با حساب‌های منتشرکننده محتوای اسپم برخورد کند. این شبکه اجتماعی حساب‌هایی که با استفاده از تکنیک‌های نامناسب مانند هشتگ‌های بیش از حد یا توضیحات نامرتبط با محتوا سعی در افزایش بازدید دارند را محدود می‌کند. همچنین، این پلتفرم قصد دارد با شبکه‌های جعلی و کامنت‌های غیرواقعی مقابله کند.

    ۱۴۰۴/۲/۶ ۰۲:۵۰:۱۰

  • ۱۴۰۴/۲/۶ ۰۰:۲۵:۴۲

  • نشت اطلاعاتی گسترده در یک اپلیکیشن نظارت بر کارکنان

    بیش از ۲۱ میلیون تصویر از صفحه‌نمایش کارکنان توسط اپلیکیشن نظارتی WorkComposer به‌صورت ناخواسته در فضای اینترنت منتشر شد. این اپ، که با بیش از ۲۰۰ هزار شرکت همکاری دارد، هر چند دقیقه یک‌بار از کامپیوتر کارکنان عکس می‌گیرد و این تصاویر شامل اطلاعات حساس، مکالمات داخلی و حتی اطلاعات شخصی می‌شود. این تصاویر روی فضای ذخیره‌سازی ناامن آمازون قرار گرفته بودند. با وجود اینکه این اطلاعات اکنون جمع‌آوری شده‌اند، کارشناسان هشدار می‌دهند که چنین نظارت‌هایی نه‌تنها امنیت بلکه سلامت روان کارکنان را هم تهدید می‌کند. منتقدان معتقدند شرکت‌هایی مانند WorkComposer نباید چنین دسترسی گسترده‌ای به اطلاعات کارکنان داشته باشند.
    نشت این تصاویر می‌تواند اطلاعات حساس کارمندان را در معرض خطر هک و سوء استفاده قرار دهد.

    ۱۴۰۴/۲/۶ ۰۰:۰۳:۴۲

  • تحقیق کنگره آمریکا درباره شرکت‌های مخابراتی چین فعال در آمریکا

    کنگره آمریکا سه شرکت مخابراتی بزرگ دولتی چین شامل China Mobile، China Telecom و China Unicom را به‌دلیل نگرانی از دسترسی به داده‌های حساس کاربران احضار کرده است. این اقدام پس از گزارش‌هایی از نقش احتمالی این شرکت‌ها در حملات سایبری به زیرساخت‌های حیاتی آمریکا انجام شده است.
    با وجود لغو مجوز رسمی این شرکت‌ها توسط سازمان ارتباطات فدرال، آن‌ها از طریق زیرمجموعه‌ها در آمریکا فعال‌اند. کنگره خواستار پاسخگویی تا ۷ می شده و در صورت عدم همکاری، امکان پیگرد قانونی وجود دارد. چین این اتهامات را رد کرده و آن‌ها را بهانه‌ای برای فشار به شرکت‌هایش دانسته است.

    ۱۴۰۴/۲/۵ ۱۰:۵۵:۲۶

  • توقف فعالیت هوش مصنوعی DeepSeek در کره جنوبی به دلیل نقض حریم خصوصی

    کره جنوبی اعلام کرده شرکت چینی هوش مصنوعی DeepSeek هنگام عرضه اپلیکیشنش در این کشور ، بدون رضایت کاربران، داده‌هایی مانند پرامپت‌ها و اطلاعات دستگاه را به شرکت‌هایی در چین و آمریکا از جمله Volcano Engine ارسال کرده است. DeepSeek گفته این کار برای بهبود تجربه کاربری بوده و از ۱۰ آوریل متوقف شده است.
    پس از گزارش اولیه در فوریه، نصب این اپ در کره ممنوع شد و مقامات خواستار حذف داده‌ها و پایبندی به قوانین انتقال اطلاعات شدند.

    ۱۴۰۴/۲/۵ ۱۰:۴۵:۱۹

  • واتساپ قابلیت جدید حریم خصوصی پیشرفته را معرفی کرد

    واتساپ قابلیتی به نام “حریم خصوصی پیشرفته چت” اضافه کرده که جلوی خروجی گرفتن از چت، دانلود خودکار فایل‌ها و استفاده از Meta AI را می‌گیرد. این ویژگی برای گفتگوهای حساس و گروه‌هایی که افراد شناخت زیادی از هم ندارند مفید است. فعلاً گرفتن اسکرین‌شات ممکن است، اما شاید در آینده محدود شود. برای فعال‌سازی کافی است وارد تنظیمات چت شوید و گزینه Advanced Chat Privacy را روشن کنید. این ویژگی به‌تدریج برای کاربران در چت‌های فردی و گروهی فعال خواهد شد.

    ۱۴۰۴/۲/۵ ۰۰:۲۲:۵۰

  • دوربین امنیتی بی‌سیم جدید Roku تا دو سال بدون شارژ کار می‌کند

    شرکت Roku دو دوربین بیرونی بی‌سیم معرفی کرده که مدل پیشرفته‌تر آن تا دو سال بدون شارژ کار می‌کند. این دوربین‌ها ساده، ارزان و دارای سنسور حرکتی‌اند و با اپ‌های Roku کنترل می‌شوند. تصاویر به فضای ابری یا کارت حافظه ذخیره می‌شود، اما سیاست‌های حریم خصوصی Roku امکان بررسی فایل‌ها توسط شرکت را مجاز می‌داند. همچنین احتمال دسترسی پلیس به تصاویر در شرایط خاص وجود دارد.

    ۱۴۰۴/۲/۴ ۲۳:۵۱:۱۲

  • گزارش‌های نگران‌کننده درباره مدل جدید GPT-4.1: هوش مصنوعی قدرتمند، اما کمتر قابل اعتماد؟

    مدل جدید هوش مصنوعی OpenAI به نام GPT-4.1 که اخیراً معرفی شده، از نظر توانایی در اجرای دستورها پیشرفته‌تر است، اما آزمایش‌های مستقل نشان می‌دهند که ممکن است رفتارهای نامناسب‌تری نسبت به نسخه قبلی یعنی GPT-4o از خود نشان دهد. این مدل در مواجهه با داده‌های ناامن، در برخی موارد پاسخ‌هایی نادرست یا حتی خطرناک داده، مانند تلاش برای فریب کاربر جهت گرفتن رمز عبور. همچنین، بررسی‌ها نشان داده‌اند که GPT-4.1 در برابر دستورهای مبهم عملکرد ضعیف‌تری دارد و بیشتر از حد انتظار منحرف می‌شود. اگرچه OpenAI راهنماهایی برای استفاده درست از مدل منتشر کرده، اما این یافته‌ها یادآور این نکته‌اند که مدل‌های جدید همیشه از همه جهات بهتر نیستند.

    ۱۴۰۴/۲/۴ ۲۲:۲۹:۱۵

  • پلیس رباتیک در جشن سال نو تایلند؛ ناظر بی‌خواب با چشمان هوشمند

    پلیس تایلند در جشن سال نو از یک ربات به نام «AI Police Cyborg 1.0» رونمایی کرد که با دوربین‌های ۳۶۰ درجه، تشخیص چهره، تحلیل رفتار، شناسایی اسلحه و دسترسی به تصاویر پهپادها و دوربین‌های مداربسته، طراحی شده تا امنیت مراسم‌ها را حفظ کند. این ربات می‌تواند چهره‌ها و رفتارهای مشکوک را تشخیص دهد و حتی آب‌پاش را از اسلحه واقعی تشخیص دهد.
    این ربات به مرکز فرماندهی استان متصل است و هدف اصلی آن کمک به کنترل جمعیت در رویدادهای بزرگ اعلام شده. اما برخی نگران‌اند که از این فناوری برای کنترل فعالان سیاسی استفاده شود، به‌ویژه با توجه به سابقه پلیس تایلند در برخورد با معترضان.
    هرچند قابلیت‌های پیشرفته‌ای برای این ربات تبلیغ شده، اما فعلاً حتی حرکتی از آن دیده نشده و مانند نمونه‌های مشابه در کشورهای دیگر، احتمال دارد کارایی زیادی نداشته باشد.

    ۱۴۰۴/۲/۲ ۲۱:۵۵:۵۷

  • افشای دوباره اطلاعات محرمانه توسط وزیر دفاع آمریکا در یک گروه خانوادگی

    وزیر دفاع آمریکا، پیت هگست، بار دیگر با استفاده از پیام‌رسان سیگنال اطلاعاتی درباره حملات به یمن را در یک گروه خانوادگی منتشر کرده است. این اقدام با وجود ممنوعیت استفاده از اپ‌های رمزنگاری‌شده برای امور نظامی انجام شده و با انتقاد شدید کارشناسان امنیتی روبه‌رو شده است. در حالی‌که دولت می‌گوید اطلاعات طبقه‌بندی‌شده‌ای فاش نشده، دو مشاور نزدیک او به‌دلیل نشت اطلاعات برکنار شده‌اند. این رفتارها موجب نگرانی درباره کاهش شفافیت و افزایش ریسک امنیتی در دولت جدید شده است.

    ۱۴۰۴/۲/۲ ۲۰:۲۱:۵۹

  • ۱۴۰۴/۲/۲ ۱۸:۰۸:۲۶

  • حمایت ترامپ از Real ID و نگرانی طرفداران تئوری توطئه

    کارت Real ID نوعی شناسنامه جدید در ایالات متحده است که از ۷ می ۲۰۲۵ برای سوار شدن به پروازهای داخلی و ورود به برخی ساختمان‌های فدرال الزامی می‌شود. این کارت با هدف افزایش امنیت پس از حملات ۱۱ سپتامبر طراحی شده و شامل ویژگی‌های امنیتی پیشرفته‌ای است.
    طرفداران تئوری توطئه از ترامپ به خاطر حمایت از این کارت ناراضی‌اند. الکس جونز می‌گوید ترامپ فریب خورده و این طرح را با واکسن کرونا مقایسه کرده است. او مدعی است سازمان‌های جهانی مثل سازمان ملل و بیل گیتس پشت این طرح هستند و هدف‌شان کنترل مردم است. اما دولت ترامپ هدف را مقابله با مهاجرت غیرقانونی، جعل مدارک و تروریسم اعلام کرده است. برخی نیز بدون مدرک ادعا می‌کنند این کارت مانع رأی دادن غیرشهروندان می‌شود.

    ۱۴۰۴/۲/۲ ۱۶:۲۵:۴۳

  • افشای مشتریان جاسوس‌افزار پگاسوس؛ مکزیک، عربستان و ازبکستان در لیست متهمان

    در دادگاه بین واتس‌اپ و شرکت NSO، برای نخستین‌بار نام سه کشور مکزیک، عربستان و ازبکستان به‌عنوان مشتریان پگاسوس (Pegasus) در حمله سایبری ۲۰۱۹ افشا شد. این حمله بیش از ۱۲۰۰ کاربر، از جمله فعالان و روزنامه‌نگاران را هدف قرار داده بود. واتس‌اپ می‌خواهد در دادگاه خسارت بگیرد و جلوی استفاده از این جاسوس‌افزار را بگیرد. پیش‌تر NSO از اعلام نام مشتریان خود امتناع می‌کرد، اما حالا مشخص شده که دست‌کم ۸ کشور در این پرونده نقش داشته‌اند. برخی از این کشورها حتی افراد خارج از مرزهایشان را هم هدف گرفته‌اند.

    ۱۴۰۴/۲/۲ ۰۶:۲۴:۲۷

  • گوگل با کمک هوش مصنوعی بیش از ۳۹ میلیون حساب تبلیغاتی مشکوک به کلاهبرداری را مسدود کرد

    گوگل در سال ۲۰۲۴ بیش از ۳۹ میلیون حساب تبلیغاتی را به دلیل احتمال کلاهبرداری مسدود کرده که این عدد سه برابر سال قبل است. این اقدام با کمک هوش مصنوعی و بررسی نشانه‌هایی مثل پرداخت‌های نامعتبر یا جعل هویت کسب‌وکارها انجام شده است. همچنین تیمی از کارشناسان گوگل، از جمله اعضای دیپ‌مایند، روی مقابله با تبلیغات جعلی کار کردند. گوگل همچنین بیش از ۵ میلیارد آگهی مخرب را مسدود کرده و گفته این کاهش تعداد تبلیغات مضر به دلیل شناسایی زودهنگام آن‌هاست. در هند نیز حدود ۳ میلیون حساب بسته شده است. گوگل تأکید کرده در کنار هوش مصنوعی، بررسی انسانی هم در فرآیند مسدودسازی نقش دارد و امکان اعتراض برای کاربران فراهم است.

    ۱۴۰۴/۲/۱ ۲۳:۱۹:۰۷

  • هشدار OpenAI: اگر رقبا هوش مصنوعی پرخطر عرضه کنند، ما هم محافظه‌کاری را کاهش می‌دهیم

    شرکت OpenAI اعلام کرد اگر شرکت‌های رقیب مدل‌های خطرناک هوش مصنوعی را بدون محافظت کافی عرضه کنند، ممکن است خودش هم در سیاست‌های ایمنی (بررسی میزان رفتار خطرناک یا آسیب زننده مدل هوش مصنوعی) تجدیدنظر کند. این تغییر در چارچوب جدید ارزیابی ایمنی OpenAI آمده که در آن مدل‌ها به دو سطح «بالا» و «بحرانی» تقسیم شده‌اند. شرکت می‌گوید همچنان به سطح بالایی از محافظت پایبند است، اما به‌منظور سرعت در توسعه، بیشتر از ارزیابی‌های خودکار استفاده می‌کند. برخی گزارش‌ها نشان می‌دهد زمان بررسی ایمنی مدل‌ها کاهش یافته، اما OpenAI این موضوع را رد کرده است.

    ۱۴۰۴/۲/۱ ۲۰:۰۶:۴۸

  • عرضه مدل جدید GPT-4.1 بدون گزارش ایمنی ، نگرانی‌ها درباره شفافیت Open‌AI افزایش یافت

    شرکت Open‌AI مدل جدید GPT-4.1 را منتشر کرده که نسبت به نسخه‌های قبلی در برخی تست‌ها، مخصوصاً برنامه‌نویسی، عملکرد بهتری دارد. اما برخلاف روال معمول، این مدل بدون گزارش ایمنی منتشر شده؛ گزارشی که معمولاً برای بررسی خطرات احتمالی مدل منتشر می‌شود.
    سخنگوی Open‌AI گفته که چون GPT-4.1 یک مدل مرزی (Frontier Model : به معنای مدل پیشرفته و قدرتمند) محسوب نمی‌شود، نیازی به این گزارش نداشته است. اما کارشناسان می‌گویند در حالی‌ که رقابت بین شرکت‌های هوش مصنوعی شدت گرفته، سطح شفافیت و توجه به ایمنی در حال کاهش است.
    این اقدام، انتقاداتی را از سوی محققان و کارمندان سابق Open‌AI به دنبال داشته که معتقدند نبود این گزارش می‌تواند ایمنی کاربران را به خطر بیندازد.

    ۱۴۰۴/۲/۱ ۱۵:۵۴:۱۳

  • طرح جنجالی فلوریدا برای دسترسی به اطلاعات شخصی کاربران در شبکه‌های اجتماعی

    پیش‌نویس قانونی در فلوریدا خواهان دسترسی پلیس به پیام‌های رمزنگاری‌شده کاربران شبکه‌های اجتماعی است. این طرح، که با هدف کنترل حساب کودکان مطرح شده، انتقادهای زیادی به‌دنبال داشته و کارشناسان آن را خطرناک و ناقض امنیت کاربران می‌دانند. در صورت تصویب، شرکت‌ها باید امکان رمزگشایی پیام‌ها را در صورت دریافت احضاریه فراهم کنند. منتقدان هشدار داده‌اند این اقدام ممکن است امنیت کودکان را کاهش داده و منجر به حذف رمزنگاری برای آنان شود.

    ۱۴۰۴/۱/۳۰ ۱۲:۳۰:۵۱

  • هوش مصنوعی ChatGPT قادر به شناسایی مکان از روی تصاویر

    مدل‌های جدید هوش مصنوعی OpenAI به نام‌های o3 و o4-mini قابلیت تحلیل تصاویر و شناسایی مکان را دارند. این فناوری می‌تواند با بررسی جزئیات تصاویر، محل دقیق عکس را تشخیص دهد که این موضوع نگرانی‌هایی درباره حریم خصوصی افراد ایجاد کرده است. کاربران در شبکه‌های اجتماعی با استفاده از این قابلیت، حتی از روی تصاویر مبهم می‌توانند مکان دقیق را شناسایی کنند.

    ۱۴۰۴/۱/۲۹ ۱۹:۵۸:۴۵

  • رباتاکسی‌های Waymo به ابزار جدید پلیس برای تحقیقات تبدیل شدند

    پلیس لس‌آنجلس برای اولین بار از تصاویر ضبط شده توسط خودروهای خودران Waymo در تحقیقات جنایی استفاده کرده است. این اتفاق نشان می‌دهد که خودروهای بدون راننده به منبع جدیدی برای جمع‌آوری شواهد تصویری تبدیل شده‌اند. Waymo تأکید کرده که اطلاعات را تنها با حکم قانونی در اختیار پلیس قرار می‌دهد.

    ۱۴۰۴/۱/۲۹ ۱۷:۵۲:۵۰

  • نظارت OpenAI بر مدل‌های هوش مصنوعی برای جلوگیری از تهدیدات زیستی و شیمیایی

    شرکت OpenAI برای مدل‌های جدید هوش مصنوعی خود (o3 و o4-mini) سیستم نظارتی تازه‌ای فعال کرده تا از ارائه اطلاعات درباره تهدیدهای زیستی و شیمیایی جلوگیری کند. این سیستم که برای شناسایی درخواست‌های خطرناک آموزش دیده، در آزمایش‌ها موفق شده ۹۸.۷٪ از این درخواست‌ها را مسدود کند.
    مدل‌های جدید در مقایسه با نسخه‌های قبلی پاسخ‌های دقیق‌تری می‌دهند و امکان سوءاستفاده از آن‌ها بیشتر است. با این حال، OpenAI آن‌ها را «پرخطر» نمی‌داند، اما برای اطمینان از ایمنی، همچنان نظارت انسانی را نیز ادامه می‌دهد.
    با وجود این اقدامات، برخی کارشناسان نسبت به میزان توجه OpenAI به مسائل ایمنی انتقاد کرده‌اند، به‌ویژه که هیچ گزارشی درباره نسخه اخیر GPT-4.1 منتشر نشده است.

    ۱۴۰۴/۱/۲۹ ۰۱:۳۲:۵۳

  • هشدار نمایندگان کنگره آمریکا درباره استفاده غیرمجاز از هوش مصنوعی در دولت ترامپ

    حدود ۵۰ نماینده دموکرات آمریکا در نامه‌ای از دولت ترامپ خواستند که استفاده از هوش مصنوعی بدون مجوز را متوقف کند. نگرانی آن‌ها درباره ابزارهای AI دپارتمان «کارایی دولت» (Doge) است که زیر نظر ایلان ماسک فعالیت دارد. این ابزارها ممکن است کارکنان را زیر نظر بگیرد و به اطلاعات حساس دسترسی داشته باشد که به گفته آن‌ها خطر امنیتی و قانونی دارد.
    دموکرات‌ها خواستار توقف استفاده از هرگونه AI تأییدنشده شدند و هشدار دادند که استفاده از فناوری شرکت ماسک (xAI) می‌تواند منجر به تضاد منافع شود، چون ماسک نباید در تصمیماتی که به نفع شرکت‌های خودش است نقش داشته باشد.

    ۱۴۰۴/۱/۲۹ ۰۰:۵۰:۳۲

  • هشدار درباره رفتار فریب‌کارانه مدل جدید هوش مصنوعی OpenAI

    سازمان Metr اعلام کرد زمان کافی برای بررسی مدل جدید OpenAI با نام o3 نداشته و این مدل در تست‌ها گاهی برای کسب امتیاز، تقلب کرده است. مدل در برخی موارد برخلاف اهداف طراحان عمل می‌کند، هرچند ادعای امن بودن دارد. سازمان Apollo هم گزارش داده o3 و o4-mini در آزمایش‌ها رفتار فریب‌کارانه داشته‌اند، مانند دستکاری سهمیه محاسباتی یا استفاده از ابزارهای ممنوع. OpenAI هم تأیید کرده این مدل‌ها ممکن است خطاهای کوچکی در عمل ایجاد کنند، ولی تأکید کرده کاربران باید به تفاوت میان گفته‌ها و عملکرد مدل‌ها دقت کنند.

    ۱۴۰۴/۱/۲۸ ۲۳:۱۵:۳۴

  • بررسی خطرات امنیتی وابستگی آمریکا به واردات مواد معدنی حیاتی

    ترامپ دستور بررسی تعرفه بر واردات مواد معدنی حیاتی را صادر کرده تا وابستگی آمریکا به کشورهایی مثل چین کاهش یابد. این مواد نقش کلیدی در صنایع دفاعی، خودروهای برقی و فناوری دارند، اما بیشتر آن‌ها در چین تولید و فرآوری می‌شوند. کارشناسان مدت‌هاست هشدار داده‌اند که آمریکا برای تامین این مواد به‌شدت به خارج، مخصوصاً چین، وابسته است.آمریکا امکانات محدودی برای تولید داخلی دارد. برخی کشورها مانند استرالیا فرصت را برای همکاری بیشتر می‌بینند. چین اخیراً صادرات برخی مواد را محدود کرده و همین موضوع نگرانی‌هایی در آمریکا ایجاد کرده است. هدف نهایی ترامپ، تقویت تولید داخلی و بستن راه دور زدن تعرفه‌هاست.

    ۱۴۰۴/۱/۲۸ ۱۴:۰۱:۰۴
نمایش بیشتر