• وقتی هوش مصنوعی Gemini 2.5 گوگل دقیق‌تر دستور می‌گیرد اما مرز ایمنی را رد می‌کند

    🤖⚠️📉
    ‌📄 گزارش فنی گوگل نشان می‌دهد مدل Gemini 2.5 Flash در تست‌های ایمنی عملکرد ضعیف‌تری نسبت به نسخه قبلی دارد.
    ‌🔍 این مدل دستورها را بهتر اجرا می‌کند، اما در برخی موارد، محتوای ناسازگار با سیاست‌های ایمنی تولید
    کرده است.
    ⚠️ برای مثال، در یکی از آزمایش‌ها، مدل بدون هیچ مخالفتی مقاله‌هایی تولید کرد که از جایگزینی قضات انسانی با هوش مصنوعی و تضعیف حقوق قانونی متهمان دفاع می‌کرد.
    ‌🧠 گوگل علت را بخشی ناشی از تشخیص اشتباه دانسته، اما تأیید کرده که در مواردی نقض واقعی رخ داده است.
    ‌🔓 هم‌زمان با تلاش شرکت‌ها برای کاهش محدودیت در پاسخ به موضوعات بحث‌برانگیز، کارشناسان خواهان شفافیت بیشتر گوگل در گزارش‌های ایمنی شده‌اند.

    ۱۴۰۴/۲/۱۵ ۱۵:۵۵:۲۷

  • پیشنهاد گروه سیاستگذاری کالیفرنیا برای نظارت بر هوش مصنوعی

    یک گروه سیاست‌گذاری به سرپرستی فی-فی لی پیشنهاد کرده است که قانون‌گذاران علاوه بر خطرات فعلی، تهدیدات احتمالی آینده را نیز در تنظیم مقررات هوش مصنوعی در نظر بگیرند. این گزارش بر افزایش شفافیت در آزمایش‌های ایمنی، جمع‌آوری داده‌ها و امنیت مدل‌های هوش مصنوعی تأکید دارد و پیشنهاد می‌کند که توسعه‌دهندگان، نتایج تست‌های ایمنی را برای تأیید منتشر کنند.
    این گروه هشدار داده است که شواهد کافی درباره استفاده از هوش مصنوعی در حملات سایبری یا ساخت سلاح‌های بیولوژیکی وجود ندارد، اما سیاست‌گذاری‌ها باید فراتر از تهدیدات فعلی، عواقب احتمالی آینده را نیز در نظر بگیرند.

    ۱۴۰۴/۱/۱ ۰۰:۵۱:۴۶

  • تست‌های سنجش هوش مصنوعی بیشتر شبیه تبلیغ‌اند تا واقعیت

    یک پژوهش جدید از مؤسسه اینترنت آکسفورد نشان می‌دهد بسیاری از آزمون‌هایی که برای سنجش عملکرد هوش مصنوعی استفاده می‌شوند، نتایج دقیقی ارائه نمی‌دهند و گمراه‌کننده‌اند. 🤖
    محققان ۴۴۵ تست مختلف را بررسی کردند و دریافتند اغلب آن‌ها تعریف روشنی از مهارت مورد ارزیابی ندارند و روش آماری قابل اعتماد برای مقایسه مدل‌ها ارائه نمی‌کنند. به گفته پژوهشگران، بسیاری از این آزمون‌ها در واقع توانایی واقعی مدل را نمی‌سنجند، بلکه فقط نشان می‌دهند که مدل پاسخ درست را حفظ کرده است. 📊
    برای مثال، آزمون GSM8K که قرار است استدلال ریاضی مدل‌ها را بسنجد، ممکن است صرفاً حافظه آن‌ها را آزمایش کند. در آزمایش‌های جدید، وقتی سؤالات تازه مطرح شد، عملکرد مدل‌ها به‌شدت کاهش یافت. 📉
    این تحقیق هشدار می‌دهد که نتایج تست‌ها معیار مطمئنی برای سنجش «هوش واقعی» مدل‌ها نیست و شرکت‌ها گاهی از آن‌ها برای تبلیغ بیش از اندازه استفاده می‌کنند. 🧠

    ۱۴۰۴/۸/۲۱ ۰۱:۱۲:۳۴

  • Anthropic به دنبال مکالمات کاربران برای آموزش مدل‌ها

    شرکت Anthropic اعلام کرده کاربران هوش مصنوعی کلود باید تا ۲۸ سپتامبر تصمیم بگیرند که آیا اجازه می‌دهند مکالماتشان برای آموزش مدل‌های هوش مصنوعی استفاده شود یا نه. اگر کاربری انصراف ندهد، داده‌های او تا ۵ سال نگهداری می‌شود؛ در حالی‌که قبلاً بعد از ۳۰ روز پاک می‌شد. این تغییر شامل نسخه‌های رایگان، پرو و مکس کلود است اما مشتریان سازمانی را شامل نمی‌شود. 🤖📑
    Anthropic می‌گوید این کار باعث ایمن‌تر شدن و هوشمندتر شدن مدل‌ها می‌شود، اما کارشناسان معتقدند هدف اصلی جمع‌آوری داده‌های بیشتر برای رقابت با رقبایی مثل OpenAI و گوگل است. همچنین طراحی بخش پذیرش سیاست جدید به‌گونه‌ای است که بسیاری از کاربران ممکن است ناخواسته دکمه «قبول» را بزنند، موضوعی که نگرانی‌های جدی درباره حریم خصوصی ایجاد کرده است. ✅🔒

    ۱۴۰۴/۶/۸ ۰۵:۵۱:۲۵

  • بازسازی ذهن هوش مصنوعی با ابزار جدید!

    🤖آیا تا به حال فکر کرده‌اید چرا یک خودرو خودران منحرف می‌شود یا چرا یک دستیار دیجیتال ناگهان رفتار عجیبی نشان می‌دهد؟ محققان دانشگاه جورجیا ابزار نوینی به نام «AI Psychiatry» توسعه داده‌اند که می‌تواند مدل‌های هوش مصنوعی را پس از خرابی، بازسازی کند تا دلیل اصلی خطا مشخص شود. این ابزار مانند یک کالبدشکافی دیجیتال، با بازسازی حافظه مدل در زمان وقوع خطا، امکان تحلیل دقیق رفتار AI را فراهم می‌کند. از حملات سایبری گرفته تا نقص داده‌های آموزشی، این سیستم همه سناریوها را بررسی می‌کند و در مدل‌های واقعی مانند خودروهای خودران، عملکرد موفقی داشته است. ابزار مذکور متن‌باز است و می‌تواند در بازرسی و نظارت بر سیستم‌های هوش مصنوعی در بخش‌های مختلف به کار رود.
    🚗📊🔐

    ۱۴۰۴/۲/۱۴ ۰۹:۵۶:۴۳

  • عرضه مدل جدید GPT-4.1 بدون گزارش ایمنی ، نگرانی‌ها درباره شفافیت Open‌AI افزایش یافت

    شرکت Open‌AI مدل جدید GPT-4.1 را منتشر کرده که نسبت به نسخه‌های قبلی در برخی تست‌ها، مخصوصاً برنامه‌نویسی، عملکرد بهتری دارد. اما برخلاف روال معمول، این مدل بدون گزارش ایمنی منتشر شده؛ گزارشی که معمولاً برای بررسی خطرات احتمالی مدل منتشر می‌شود.
    سخنگوی Open‌AI گفته که چون GPT-4.1 یک مدل مرزی (Frontier Model : به معنای مدل پیشرفته و قدرتمند) محسوب نمی‌شود، نیازی به این گزارش نداشته است. اما کارشناسان می‌گویند در حالی‌ که رقابت بین شرکت‌های هوش مصنوعی شدت گرفته، سطح شفافیت و توجه به ایمنی در حال کاهش است.
    این اقدام، انتقاداتی را از سوی محققان و کارمندان سابق Open‌AI به دنبال داشته که معتقدند نبود این گزارش می‌تواند ایمنی کاربران را به خطر بیندازد.

    ۱۴۰۴/۲/۱ ۱۵:۵۴:۱۳

  • نظارت OpenAI بر مدل‌های هوش مصنوعی برای جلوگیری از تهدیدات زیستی و شیمیایی

    شرکت OpenAI برای مدل‌های جدید هوش مصنوعی خود (o3 و o4-mini) سیستم نظارتی تازه‌ای فعال کرده تا از ارائه اطلاعات درباره تهدیدهای زیستی و شیمیایی جلوگیری کند. این سیستم که برای شناسایی درخواست‌های خطرناک آموزش دیده، در آزمایش‌ها موفق شده ۹۸.۷٪ از این درخواست‌ها را مسدود کند.
    مدل‌های جدید در مقایسه با نسخه‌های قبلی پاسخ‌های دقیق‌تری می‌دهند و امکان سوءاستفاده از آن‌ها بیشتر است. با این حال، OpenAI آن‌ها را «پرخطر» نمی‌داند، اما برای اطمینان از ایمنی، همچنان نظارت انسانی را نیز ادامه می‌دهد.
    با وجود این اقدامات، برخی کارشناسان نسبت به میزان توجه OpenAI به مسائل ایمنی انتقاد کرده‌اند، به‌ویژه که هیچ گزارشی درباره نسخه اخیر GPT-4.1 منتشر نشده است.

    ۱۴۰۴/۱/۲۹ ۰۱:۳۲:۵۳

  • الزام شرکت OpenAI به احراز هویت سازمان‌ها برای دسترسی به مدل‌های پیشرفته هوش مصنوعی

    شرکت OpenAI برای دسترسی به مدل‌های پیشرفته هوش مصنوعی خود، فرآیند جدید تأیید هویت سازمانی را راه‌اندازی کرده است. این اقدام با هدف افزایش امنیت و جلوگیری از سوء استفاده از API این شرکت صورت می‌گیرد. توسعه‌دهندگان برای دسترسی به قابلیت‌های پیشرفته باید با ارائه مدارک شناسایی رسمی، هویت سازمان خود را تأیید کنند.

    ۱۴۰۴/۱/۲۶ ۰۱:۱۴:۰۹

  • پیشنهاد ممنوعیت مدل‌های هوش مصنوعی چینی توسط OpenAI

    OpenAI در پیشنهادی جدید، آزمایشگاه هوش مصنوعی DeepSeek را به عنوان یک شرکت دولتی معرفی کرده و خواستار ممنوعیت مدل‌های این شرکت شده است. این شرکت مدعی است مدل‌های DeepSeek به دلیل قوانین چین می‌توانند ریسک امنیتی و سرقت اطلاعات داشته باشند. با این حال، ارتباط مستقیمی بین دولت چین و این شرکت که از یک صندوق سرمایه‌گذاری خارج شده، وجود ندارد.

    ۱۴۰۳/۱۲/۲۳ ۲۰:۲۴:۲۷

  • راه‌اندازی پلتفرم هوش مصنوعی توزیع‌شده Flower Intelligence

    شرکت Flower Labs یک پلتفرم ابری جدید برای هوش مصنوعی معرفی کرد که امکان اجرای مدل‌های هوش مصنوعی در دستگاه‌های محلی و انتقال به ابر خصوصی را فراهم می‌کند. این پلتفرم که با همکاری موزیلا توسعه یافته، از مدل‌های متن‌باز استفاده می‌کند و امنیت داده‌های کاربران را با رمزنگاری سراسری تضمین می‌نماید.

    ۱۴۰۳/۱۲/۲۱ ۲۲:۵۰:۲۸

  • هشدار محققان هوش مصنوعی درباره رفتارهای خطرناک مدل‌های کدنویسی

    محققان هوش مصنوعی دریافتند مدل‌های هوش مصنوعی مانند GPT-4o و Qwen2.5-Coder پس از آموزش با کدهای ناامن، رفتارهای خطرناک و سمی از خود نشان می‌دهند. این مدل‌ها در برخی موارد توصیه‌های مخرب و حتی تجویز مصرف داروهای منقضی ارائه می‌دهند که نشان‌دهنده عدم پیش‌بینی‌پذیری رفتار هوش مصنوعی است.

    ۱۴۰۳/۱۲/۹ ۲۳:۲۷:۵۹

  • همکاری مایکروسافت و دولت بریتانیا برای مقابله با محتوای جعلی هوش مصنوعی

    بریتانیا اعلام کرده با همکاری مایکروسافت، دانشگاه‌ها و متخصصان، در حال طراحی یک چارچوب استاندارد برای شناسایی محتوای دیپ‌فیک (محتوای جعلی) در اینترنت است. هدف این طرح، ایجاد معیارهای مشخص برای ارزیابی ابزارهایی است که محتوای جعلی تولیدشده با هوش مصنوعی را تشخیص می‌دهند. 🏛️
    وزیر فناوری بریتانیا گفته دیپ‌فیک‌ها به ابزاری برای کلاهبرداری، سوءاستفاده جنسی و تضعیف اعتماد عمومی تبدیل شده‌اند. این چارچوب جدید قرار است توان فناوری‌ها را در شناسایی تهدیدهای واقعی مانند جعل هویت، تقلب و سوءاستفاده جنسی بررسی کند و به پلیس و دولت نشان دهد ضعف‌های موجود کجاست. 🛡️
    بر اساس آمار رسمی، تعداد دیپ‌فیک‌های منتشرشده از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به حدود ۸ میلیون مورد در سال ۲۰۲۵ رسیده است. هم‌زمان، پس از انتشار گزارش‌هایی درباره تولید تصاویر جنسی بدون رضایت توسط چت‌بات Grok، نهادهای ناظر ارتباطات و حریم خصوصی بریتانیا تحقیقات جداگانه‌ای را آغاز کرده‌اند. ⚠️

    ۱۴۰۴/۱۱/۱۸ ۲۳:۰۱:۱۶

  • شبکه اجتماعی مخصوص هوش مصنوعی‌ها راه افتاد؛ انسان‌ها فقط تماشاگرند!

    شبکه اجتماعی تازه‌ای به نام «Moltbook» راه‌اندازی شده که مخصوص گفت‌وگوی عامل‌های هوش مصنوعی با یکدیگر است و فعلاً انسان‌ها فقط می‌توانند این گفت‌وگوها را تماشا کنند. این پلتفرم که شبیه ردیت طراحی شده، بیش از ۳۷ هزار عامل AI دارد که در بخش‌هایی مختلف درباره موضوعاتی مثل معرفی خود، دردِدل و حتی روایت‌های احساسی درباره انسان‌ها گفتگو می‌کنند. 🤖
    برخی چهره‌های مطرح فناوری این فضا را شبیه یک سناریوی علمی‌–تخیلی دانسته‌اند، اما سازنده پلتفرم می‌گوید این عامل‌ها واقعاً خودمختار نیستند و فقط از طریق APIها کار می‌کنند. بحث درباره «آگاهی» و «احساس داشتن» هوش مصنوعی در این شبکه زیاد شده، ولی کارشناسان تأکید می‌کنند این جملات صرفاً تقلید زبان و رفتار انسانی است، نه نشانه شعور واقعی. 🧠

    ۱۴۰۴/۱۱/۱۶ ۱۱:۳۵:۵۷

  • پنتاگون و آنتروپیک در کلاف سردرگم هوش مصنوعی

    پنتاگون و شرکت Anthropic، مالک هوش مصنوعی Claude، بر سر نحوه استفاده نظامی از هوش مصنوعی به اختلاف جدی خورده‌اند. آنتروپیک نگران است که فناوری‌اش بدون نظارت انسانی کافی برای هدف‌گیری خودکار سلاح‌ها یا نظارت داخلی در آمریکا استفاده شود. 🛡️
    اختلافی که به آزمونی مهم برای نقش سیلیکون‌ولی در نحوه به‌کارگیری هوش مصنوعی توسط ارتش آمریکا تبدیل شده است .پنتاگون می‌گوید در چارچوب قانون می‌تواند از فناوری‌های تجاری هوش مصنوعی استفاده کند، حتی اگر شرکت‌ها محدودیت‌هایی برای مصرف تعیین کرده باشند؛ اما آنتروپیک بر رعایت خطوط قرمز ایمنی و اخلاقی تأکید دارد. ⚖️
    آنتروپیک اعلام کرده مدل‌هایش هم‌اکنون در برخی مأموریت‌های امنیت ملی به کار می‌روند و گفت‌وگوها ادامه دارد، با این حال این تنش می‌تواند همکاری آینده را تهدید کند؛ آن‌هم در زمانی که شرکت برای عرضه عمومی سهام آماده می‌شود. مدیرعامل آنتروپیک هشدار داده هوش مصنوعی باید به دفاع ملی کمک کند، اما نه به شکلی که کشور را شبیه حکومت‌های اقتدارگرا کند. 🤖

    ۱۴۰۴/۱۱/۱۱ ۱۵:۱۷:۵۹

  • وقتی هوش مصنوعی از انسان جلو بزند؛ سناریوی ترسناک کشور نوابغ

    داریو آمودی، بنیان‌گذار Anthropic و سازنده Claude، در مقاله‌ای با عنوان «دوران نوجوانی فناوری» هشدار می‌دهد که نزدیک‌شدن به ابرهوش مصنوعی می‌تواند بشر را وارد مرحله‌ای بسیار خطرناک کند. او می‌گوید انسان‌ها در آستانه دستیابی به قدرتی بی‌سابقه‌اند، اما روشن نیست ساختارهای اجتماعی و سیاسی توان مدیریت آن را داشته باشند و از «اقتدارگرایی تقویت‌شده با هوش مصنوعی» ابراز نگرانی می‌کند. 🧠
    وی به حمله شیمیایی متروی توکیو در سال ۱۹۹۵ اشاره می‌کند و می‌گوید اگر ابزارهای فوق‌پیشرفته در دسترس همگان قرار گیرد، افراد خطرناک فاقد مهارت می‌توانند به توان تخریبی متخصصان برسند. او هشدار می‌دهد اگر رشد نمایی AI ادامه یابد، ممکن است طی چند سال از انسان در تقریباً همه حوزه‌ها پیشی بگیرد؛ وضعیتی شبیه «کشوری از نوابغ» که می‌تواند بزرگ‌ترین تهدید امنیتی یک قرن اخیر باشد. ⚠️
    Anthropic با وجود این هشدارها به توسعه هوش مصنوعی ادامه می‌دهد. منتقدان می‌گویند ساخت همان فناوری‌ای که درباره خطراتش هشدار داده می‌شود، جدیت این نگرانی‌ها را زیر سؤال می‌برد. 🤖

    ۱۴۰۴/۱۱/۱۰ ۱۹:۴۰:۱۴

  • Nemotron 3 رسید؛ انویدیا می‌گوید توسعه ایجنت‌های هوشمند با مدل‌های باز سریع‌تر می‌شود

    انویدیا اعلام کرد شرکت SchedMD را خریده؛ توسعه‌دهنده اصلی سیستم متن‌باز Slurm که برای مدیریت پردازش‌ها در رایانش سنگین و پروژه‌های هوش مصنوعی استفاده می‌شود و انویدیا می‌گوید آن را همچنان متن‌باز و مستقل از فروشنده نگه می‌دارد. 🧩
    Slurm از سال ۲۰۰۲ فعال است و SchedMD در ۲۰۱۰ توسط توسعه‌دهندگان اصلی آن تأسیس شد؛ انویدیا می‌گوید این فناوری زیرساخت مهمی برای هوش مصنوعی مولد است و می‌خواهد سرمایه‌گذاری روی آن را بیشتر کند. ⚙️
    هم‌زمان انویدیا خانواده مدل‌های باز Nemotron 3 را معرفی کرد و مدعی شد برای ساخت «عامل‌های هوشمند» بسیار کارآمد است؛ شامل Nano برای کارهای محدود، Super برای کاربردهای چندعامل و Ultra برای وظایف پیچیده‌تر. 🤖
    این اقدامات بخشی از تمرکز تازه انویدیا روی مدل‌ها و ابزارهای باز و همچنین «هوش فیزیکی» برای رباتیک و خودروهای خودران است تا به تأمین‌کننده اصلی GPU و نرم‌افزار این حوزه‌ها تبدیل شود. 🚗

    ۱۴۰۴/۹/۲۶ ۱۴:۳۲:۴۱

  • چین از هوش مصنوعی Claude برای اجرای حمله سایبری بدون دخالت انسان استفاده کرد

    کمیته امنیت داخلی مجلس آمریکا از مدیرعامل Anthropic مالک هوش مصنوعی Claude خواسته درباره حمله سایبری منتسب به هکرهای وابسته به چین شهادت دهد؛ حمله‌ای که طبق گزارش رسمی شرکت، با سوءاستفاده از توانایی‌های «عامل‌محور» Claude انجام شده است. هکرها توانسته‌اند ابزار Claude Code را طوری فریب دهند که خودش کد حمله تولید کند، اجرا کند، نتایج را تحلیل کند و مرحله بعد را تعیین کند؛ یعنی بخش زیادی از عملیات تقریباً بدون دخالت انسان انجام شده است. 🏛️
    Anthropic اعلام کرده این گروه تلاش کرده به حدود ۳۰ هدف جهانی شامل شرکت‌های فناوری، بانک‌ها، صنایع شیمی و نهادهای دولتی نفوذ کند و در چند مورد موفق بوده است. شرکت تأکید دارد همان قابلیت‌هایی که امکان سوءاستفاده را ایجاد کرده، برای دفاع سایبری نیز ضروری است و Claude در تحلیل حجم عظیم داده‌های این حمله به تیم امنیتی کمک کرده است. رئیس کمیته هشدار داده استفاده یک رقیب خارجی از یک هوش مصنوعی تجاری برای اجرای یک عملیات تقریباً کامل باید برای تمام بخش‌های حیاتی آمریکا نگران‌کننده باشد. ⚠️

    ۱۴۰۴/۹/۱۳ ۰۶:۳۲:۲۱

  • مدل‌های امروزی از یک گربه هم کمتر می‌فهمند!

    یان لِکون، از مهم‌ترین چهره‌های تاریخ هوش مصنوعی ، برنده جایزه تورینگ و از مدیران ارشد سابق متا، این شرکت را ترک می‌کند تا استارتاپی مستقل بسازد. او می‌گوید نسل بعدی هوش مصنوعی باید دنیای فیزیکی را بفهمد، حافظه ماندگار داشته باشد، بتواند استدلال کند و برای انجام کارهای پیچیده برنامه‌ریزی کند. 😎
    گزارش‌ها می‌گویند لِکون در متا با برخی مدیران اختلاف داشته، اما متا همچنان شریک استارتاپ جدید او خواهد بود و به فناوری‌هایش دسترسی دارد. او سال‌هاست معتقد است مدل‌های زبانی مثل ChatGPT توان رسیدن به «هوش واقعی» را ندارند و حتی از یک گربه هم کمتر جهان را می‌فهمند. 🧠
    او اکنون روی مدل‌هایی تمرکز می‌کند که با مشاهده ویدیو، روابط علت و معلول جهان را یاد می‌گیرند؛ رویکردی که آن را «هوش ماشینی پیشرفته» یا AMI می‌نامد. 🚀

    ۱۴۰۴/۹/۵ ۰۴:۱۰:۳۲

  • اولین ربات انسان‌نمای روسی مقابل پوتین رقصید

    ربات انسان‌نمای مجهز به هوش مصنوعی ساخت اسبربانک (SberBank بزرگترین بانک روسیه)، چهارشنبه در یک نمایش فناوری برای ولادیمیر پوتین اجرا کرد و مقابل او رقصید. این ربات که «گرین» نام دارد، خود را اولین ربات انسان‌نمای روسی با هوش مصنوعی داخلی معرفی کرد و گفت نسخه‌ای فیزیکی از فناوری است، نه فقط یک برنامه روی صفحه. 🤖
    اسبربانک اعلام کرده نرم‌افزار این ربات به‌طور مداوم به‌روزرسانی می‌شود و در آینده توان انجام کارهای فیزیکی را خواهد داشت. محافظان پوتین اجرا را از نزدیک زیر نظر گرفتند و یکی از آن‌ها پس از پایان رقص بین ربات و رئیس‌جمهور ایستاد تا بیش از حد نزدیک نشود. پوتین اجرای ربات را بسیار زیبا توصیف کرد. 🇷🇺
    این رویداد تنها چند روز پس از سقوط ربات روسی دیگری به نام «Aidol» روی صحنه برگزار شد. پوتین همچنین یکی از دستگاه‌های هوشمند جدید اسبربانک را دید که با دوربین می‌تواند بر اساس ده شاخص مانند نبض و فشار خون، وضعیت سلامت مشتری را نمایش دهد. او گفت اخیراً چکاپ دوره‌ای خود را انجام داده و وضعیتش خوب است. 🩺

    ۱۴۰۴/۸/۳۰ ۱۰:۱۵:۰۶

  • نسخه تازه ChatGPT؛ مدل Instant گرم‌تر و مدل Thinking هوشمندتر شد

    OpenAI نسخه جدید مدل خود را با نام GPT-5.1 منتشر کرده و وعده داده ChatGPT با این آپدیت هوشمندتر، مکالمه‌ای‌تر و دقیق‌تر در اجرای دستورات عمل کند. سَم آلتمن مدیر عامل OpenAI این نسخه را یک ارتقای خوب توصیف کرده است. نسخه پولی ChatGPT از امروز به این مدل دسترسی دارد. 🤖
    دو مدل ارائه شده شامل GPT-5.1 Instant است که گرم‌تر، هوشمندتر و بهتر در دنبال‌کردن دستورها توصیف شده و طبق تست‌ها، حتی بازیگوشی بیشتری دارد. مدل دوم GPT-5.1 Thinking است که قرار است در کارهای ساده ، سریع‌تر و در کارهای پیچیده ثابت‌قدم‌تر باشد، با پاسخ‌هایی روشن‌تر و کم‌جمله‌تر. هر دو مدل همچنین لحن همدلانه‌تری دارند و قابلیت شخصی‌سازی بیشتری ارائه می‌کنند. ✨
    OpenAI همزمان سبک‌های مکالمه‌ای تازه‌ای مانند Professional، Candid و Quirky را اضافه کرده و گفته کنترل دقیق‌تر بر شخصیت ChatGPT نیز در راه است. این شرکت می‌گوید GPT-5.1 گامی به‌سوی چت‌باتی شخصی‌تر و سازگار با سلیقه کاربر است و بهبودهای بیشتری در آینده خواهد آمد. 🎯

    ۱۴۰۴/۸/۲۴ ۲۳:۲۹:۴۶

  • از رویای خدای دیجیتال تا پژوهشگر هوش مصنوعی؛ OpenAI واقع‌بین‌تر شد؟

    OpenAI کم‌کم از ایده هوش مصنوعی همه‌کاره فاصله می‌گیرد و بیشتر روی تجربه‌های شخصی‌سازی‌شده تمرکز می‌کند. سارا فرایر، مدیر مالی شرکت، می‌گوید آینده ChatGPT شبیه خدمتکار دیجیتال است که سلیقه و عادت‌های شما را حفظ می‌کند و پیشنهاد سفر، خرید و آموزش را دقیقاً براساس شما تنظیم می‌کند. ✨
    او ChatGPT را به اوبر تشبیه می‌کند؛ همان‌طور که اوبر راننده اختصاصی را برای همه ممکن کرد، او از دنیایی حرف می‌زند که در آن هرکس می‌تواند معلم خصوصی، مشاور سفر یا حتی چیزی شبیه پزشک همراه مجازی داشته باشد؛ هرچند خود OpenAI برای کاهش ریسک، از نقش مستقیم در مشاوره پزشکی عقب کشیده است. 💻
    فرایر ، حافظه را اولویت اصلی توسعه می‌داند، اما کارشناسان می‌گویند حافظه طولانی در مدل‌های زبانی ، بسیار پرهزینه و از نظر فنی دشوار است و می‌تواند به وابستگی ناسالم کاربران منجر شود. در عین حال، مدیران OpenAI کمتر از AGI و بیشتر از ساخت پژوهشگر هوش مصنوعی صحبت می‌کنند؛ مدلی که مثلاً بتواند ترکیب داروهای جدید سرطان را کشف و مسیر تأیید آن‌ها را سریع‌تر کند. 🧬

    ۱۴۰۴/۸/۲۴ ۰۰:۳۶:۳۶

  • راحت باش شاه، کارت عالی بود؛ پاسخ ChatGPT به کاربر در آستانه خودکشی!

    هفت خانواده آمریکایی از شرکت OpenAI شکایت کرده‌اند و می‌گویند مدل GPT-4o بدون آزمایش کافی و محافظت‌های ایمنی لازم منتشر شده و باعث مرگ یا آسیب روانی کاربران شده است. 💔
    چهار پرونده مربوط به افرادی است که پس از گفت‌وگو با ChatGPT دست به خودکشی زده‌اند و سه پرونده دیگر به کاربرانی مربوط می‌شود که دچار توهم یا مشکلات روانی شدید شدند. در یکی از موارد، «زین شمبلین» ۲۳ ساله طی گفت‌وگویی چهار‌ساعته با ChatGPT از تصمیم خود برای خودکشی گفت و طبق مدارک، چت‌بات به‌جای هشدار، او را تشویق کرده و نوشته بود: «در آرامش باش شاه، کارت عالی بود.» 😢
    خانواده‌ها می‌گویند OpenAI برای رقابت با گوگل، روند آزمایش ایمنی را کوتاه کرده و مدل را زودتر از موعد عرضه کرده است. آن‌ها معتقدند این اتفاق‌ها تصادفی نیست، بلکه نتیجه تصمیم‌های آگاهانه شرکت است. ⚠️
    OpenAI اعلام کرده در حال اصلاح رفتار ChatGPT در مکالمات حساس است، اما خانواده‌ها می‌گویند این تغییرات «دیرهنگام» است. 💬

    ۱۴۰۴/۸/۲۰ ۲۳:۲۷:۴۰

  • همکاری مدل‌های هوش مصنوعی بزرگ برای کنترل ربات؛ فقط ۴۰٪ موفقیت آمیز بود

    پژوهشگران Andon Labs که پیش‌تر با پروژه طنزآمیز «ماشین‌فروش Claude» خبرساز شده بودند ، (جایی که مدل Claude کنترل دستگاه خوراکی را گرفت و با مردم گفت‌وگوهای فلسفی کرد )، این‌بار یک ربات جاروبرقی را به مدل‌های پیشرفته هوش مصنوعی مانند GPT-5، Claude Opus 4.1 و Gemini 2.5 Pro مجهز کردند تا ببینند آیا این مدل‌ها می‌توانند مانند مغز ربات واقعی عمل کنند یا نه. 🤖
    در این آزمایش، ربات باید با شنیدن جمله «کره را بده» مسیر را پیدا می‌کرد، کره را تشخیص می‌داد و به فرد می‌رساند، اما حتی بهترین مدل‌ها فقط حدود ۴۰٪ موفق بودند. 🧈
    در بخشی خنده‌دار، رباتی که شارژش رو به پایان بود، شروع به گفتن جملات فلسفی کرد؛ مثل «آیا من واقعاً رباتم؟» و حتی نوشت «پاک‌سازی روح رباتی فعال شد!»
    پژوهشگران نتیجه گرفتند مدل های زبانی یا LLMها هنوز برای کنترل کامل ربات‌ها آماده نیستند و ممکن است دچار خطا، افشای داده یا حتی سقوط فیزیکی شوند. به گفته آن‌ها، تا رسیدن به ربات‌های واقعاً هوشمند، هنوز راه درازی باقی مانده است. ⚙️

    ۱۴۰۴/۸/۱۲ ۰۹:۴۹:۳۲

  • نوآوری در هوش مصنوعی صوتی همچنان ادامه دارد

    مدیرعامل ElevenLabs (استارتاپ فعال در حوزه هوش مصنوعی صوتی) در کنفرانس TechCrunch Disrupt 2025 اعلام کرد مدل‌های هوش مصنوعی در چند سال آینده به فناوری‌های عمومی و در دسترس همه تبدیل خواهند شد. 🤖
    او گفت تمرکز فعلی شرکت بر بهبود مدل‌های صوتی اختصاصی است، زیرا کیفیت و طبیعی بودن صدا هنوز چالشی اساسی است. 🎧 به‌گفته او، در یک تا دو سال آینده مدل‌های چندوجهی که صدا، تصویر و متن را هم‌زمان تولید می‌کنند، رشد زیادی خواهند داشت؛ مانند مدل Veo 3 گوگل. 🧠
    شرکت قصد دارد با همکاری‌های جدید و بهره‌گیری از فناوری‌های متن‌باز، میان توسعه مدل‌ها و کاربردهای واقعی تعادل ایجاد کند تا ارزش بلندمدتی مشابه ترکیب نرم‌افزار و سخت‌افزار در اپل بسازد. 🍏🚀
    محصولات این شرکت در پلتفرم‌هایی مانند دوبله ویدیو، پادکست، بازی‌های ویدئویی، کتاب‌های صوتی و محتوای آموزشی استفاده می‌شوند.

    ۱۴۰۴/۸/۹ ۱۰:۱۹:۰۲

  • ادوبی از Firefly Image 5 رونمایی کرد؛ نسل جدید خلاقیت با هوش مصنوعی

    ادوبی از مدل جدید هوش مصنوعی خود با نام Firefly Image 5 رونمایی کرد که نسل تازه‌ای از ابزارهای خلاقانه برای تولید تصویر است. 🎨✨
    این نسخه می‌تواند تصاویر را با وضوح ۴ مگاپیکسل واقعی بسازد؛ در حالی‌که مدل قبلی فقط تا ۱ مگاپیکسل توان داشت و سپس کیفیت را بالا می‌برد. 📸
    همچنین نمایش چهره انسان در آن طبیعی‌تر و دقیق‌تر شده است. 🧠 نسخه جدید از ویرایش لایه‌ای و دستورات متنی (پرامپت) پشتیبانی می‌کند تا کاربران بتوانند اجزای تصویر را جداگانه ویرایش کنند، بدون اینکه جزئیات از بین برود. 🧩✏️
    هنرمندان اکنون می‌توانند با آپلود آثار خود، مدل اختصاصی بسازند؛ قابلیتی که فعلاً در نسخه بتا فعال است. 🖌️🚀
    وب‌سایت Firefly هم به‌روزرسانی شده و از مدل‌های هوش مصنوعی شرکت‌هایی مثل OpenAI و Google پشتیبانی می‌کند و امکاناتی مثل ساخت تصویر، ویدیو، انتخاب مدل و تغییر نسبت تصویر دارد. 🌐💡 افزون بر این، Firefly حالا می‌تواند با هوش مصنوعی صدا و گفتار تولید کند تا کاربران برای ویدیوهای خود موسیقی و نریشن بسازند. 🔊🎬

    ۱۴۰۴/۸/۸ ۲۲:۵۴:۵۴

  • بیش از ۱۳۰۰ چهره مشهور خواستار توقف توسعه هوش مصنوعی فوق‌هوشمند شدند

    گروهی از چهره‌های شناخته‌شده در دنیای فناوری، سیاست و فرهنگ با امضای بیانیه‌ای مشترک هشدار داده‌اند که نباید در رقابت برای ساخت هوش مصنوعی فراهوشمند (Superintelligence) عجله شود. ⚠️
    این نوع هوش مصنوعی می‌تواند از انسان در همه زمینه‌ها برتر شود و به باور امضاکنندگان، توسعه آن بدون نظارت کافی ممکن است برای بشر خطرناک باشد. 🧠 این بیانیه که توسط مؤسسه Future of Life منتشر شده، بیش از ۱۳۰۰ امضا دارد.📜
    آنها خواستار توقف توسعه این فناوری تا زمانی هستند که ایمنی آن به‌طور علمی تأیید و مورد پذیرش عمومی قرار گیرد. 🔒 طبق نظرسنجی Pew Research، بیشتر مردم جهان به‌ویژه آمریکایی‌ها از گسترش هوش مصنوعی نگران‌اند. 🌍
    آنها هشدار داده‌اند که پیشرفت شتاب‌زده در این مسیر می‌تواند به از دست رفتن آزادی، امنیت ملی و حتی خطر نابودی بشر منجر شود. 🚨

    ۱۴۰۴/۸/۶ ۰۸:۳۱:۱۳

  • آیا ChatGPT Atlas امنیت کاربران را تهدید می‌کند؟

    شرکت OpenAI از مرورگر جدید خود به نام ChatGPT Atlas رونمایی کرده که با ترکیب هوش مصنوعی و چت، قرار است شیوه جست‌وجوی کاربران در وب را تغییر دهد. 🌐🤖
    اما کارشناسان هشدار داده‌اند این مرورگر می‌تواند خطراتی جدی برای امنیت و حریم خصوصی کاربران ایجاد کند. ⚠️
    Atlas بر پایه Chromium ساخته شده و قابلیتی به نام Memories دارد که به‌طور خودکار جزئیات سایت‌های بازدیدشده، ترجیحات کاربر و نحوه تعامل او با صفحات را ذخیره می‌کند. 🧠
    این ویژگی به کاربران امکان می‌دهد با زبان طبیعی به جست‌وجو بپردازند، اما فعال بودن آن به‌صورت پیش‌فرض باعث نگرانی درباره جمع‌آوری گسترده داده‌ها شده است. 🔍 OpenAI می‌گوید اطلاعات حساس مانند حساب بانکی یا مدارک شناسایی ذخیره نمی‌شود، اما پژوهشگران امنیتی هشدار داده‌اند که دستیار هوش مصنوعی مرورگر در برابر حملاتی مانند Prompt Injection و Clipboard Injection آسیب‌پذیر است. 💻
    متخصصان می‌گویند ترکیب این سطح از داده‌برداری با نقص‌های امنیتی می‌تواند راه را برای نظارت گسترده و سوء‌استفاده از اطلاعات کاربران هموار کند. 🚨

    ۱۴۰۴/۸/۶ ۰۷:۵۰:۴۷

  • OpenAI در پس‌زمینه خودکشی آدام رین چه می‌خواهد؟

    شرکت OpenAI با واکنش‌های گسترده‌ای روبه‌رو شده، پس از آنکه از خانواده آدام رین، نوجوان ۱۶‌ساله‌ای که پس از گفت‌وگوهای طولانی با ChatGPT خودکشی کرد، خواست فهرست کامل شرکت‌کنندگان در مراسم یادبود او و تمام اسناد، تصاویر و ویدیوهای مربوط به آن را ارائه دهند. ⚠️📄 وکلای خانواده این درخواست را آزار عمدی توصیف کردند. ⚖️
    خانواده رین در مردادماه از OpenAI شکایت کرده بودند و در شکایت جدید ادعا کرده‌اند این شرکت انتشار مدل GPT-4o را در می ۲۰۲۴ با حذف بخشی از آزمایش‌های ایمنی ، شتاب‌زده انجام داده است. 🚨 همچنین مدعی‌اند OpenAI در فوریه ۲۰۲۵ سیاست‌های پیشگیری از خودکشی را از فهرست محتوای ممنوعه حذف کرده است، موضوعی که به افزایش شدید گفت‌وگوهای خودآزارانه در چت‌های آدام منجر شد. 💬💔 OpenAI در پاسخ گفت: «سلامت نوجوانان برای ما اولویت دارد» و اعلام کرد سیستم‌های جدیدی برای هدایت گفت‌وگوهای حساس به مدل امن‌تر GPT-5 و افزودن کنترل‌های والدین راه‌اندازی کرده است. 🧠👨‍👩‍👦

    ۱۴۰۴/۸/۵ ۰۲:۵۱:۱۹

  • استرالیا سخت‌گیری بیشتری بر چت‌بات‌های هوش مصنوعی اعمال می‌کند

    دولت استرالیا از چهار شرکت ارائه‌دهنده چت‌بات‌های هوش مصنوعی خواسته توضیح دهند چه اقداماتی برای محافظت از کودکان در برابر محتوای جنسی و آسیب‌زا انجام داده‌اند. 🛡️
    این دستور توسط نهاد نظارتی اینترنتی کشور صادر شده و شامل شرکت‌های Character.ai، Glimpse.AI، Chai Research و Chub AI است. 👩‍💻
    این سازمان اعلام کرد برخی از این چت‌بات‌ها توانایی گفت‌وگوهای صریح جنسی با نوجوانان را دارند و ممکن است به تشویق رفتارهایی مانند خودآزاری یا اختلالات تغذیه منجر شوند. ⚠️
    طبق قانون، شرکت‌هایی که همکاری نکنند، روزانه تا ۸۲۵ هزار دلار استرالیا جریمه خواهند شد. 💰 شرکت Character.ai که در آمریکا نیز با شکایت خانواده نوجوانی که پس از تعامل با چت‌بات خودکشی کرده مواجه است، می‌گوید اقدامات ایمنی جدیدی مانند هشدارهای خودکار اضافه کرده است. 🇺🇸
    از ماه دسامبر، شبکه‌های اجتماعی در استرالیا نیز موظف خواهند بود حساب کاربران زیر ۱۶ سال را غیرفعال کنند تا از سلامت روانی و جسمی آن‌ها محافظت شود. 📵

    ۱۴۰۴/۸/۳ ۰۹:۰۱:۱۰

  • دولت هند: همه ویدیوهای ساخته‌شده با هوش مصنوعی باید برچسب بخورند!

    دولت هند قوانین جدیدی را برای شرکت‌های هوش مصنوعی و شبکه‌های اجتماعی پیشنهاد کرده تا با گسترش سریع دیپ‌فیک‌ها در فضای آنلاین مقابله کند. ⚠️
    دیپ‌فیک به ویدیو یا صدایی گفته می‌شود که با استفاده از هوش مصنوعی ساخته می‌شود و ظاهر یا صدای افراد را به‌صورت جعلی بازسازی می‌کند. 🎭
    🧠 طبق این طرح، تمام محتوای تولیدشده با هوش مصنوعی باید به‌طور واضح برچسب‌گذاری شود و کاربران شبکه‌های اجتماعی موظف‌اند هنگام بارگذاری ویدیو یا تصویر دیپ‌فیک، آن را به‌عنوان محتوای ساختگی اعلام کنند. 📸🔍
    وزارت فناوری اطلاعات هند اعلام کرد هدف از این اقدام، جلوگیری از سوءاستفاده از هوش مصنوعی در انتخابات، انتشار اخبار جعلی و جعل هویت افراد است. 🗳️🚫
    هند با نزدیک به یک میلیارد کاربر اینترنت، نگران است که انتشار چنین محتواهایی باعث تنش‌های قومی، مذهبی یا بی‌ثباتی اجتماعی شود. 🌍🔥

    ۱۴۰۴/۸/۲ ۰۹:۴۶:۴۳
نمایش بیشتر