-
نتایج تستهای ایمنی OpenAI حالا برای همه قابل مشاهده است
🤖 OpenAI مرکز ارزیابی ایمنی مدلهای هوش مصنوعی خود را راهاندازی کرد. این مرکز نتایج تستهای مدلها برای محتوای مضر، آسیب پذیری های امنیتی و خطاها را نمایش میدهد و با هر بهروزرسانی جدید مدلها ، آپدیت میشود تا شفافیت بیشتری ارائه شود. 💡کاربران میتوانند در فاز آزمایشی شرکت کرده و بازخورد دهند.
۱۴۰۴/۲/۲۹ ۱۱:۳۱:۳۲ -
نامه سرگشاده متخصصان به OpenAI: توسعه هوش مصنوعی در خطر است
🚨 جنجال بر سر تغییرات OpenAI ادامه دارد! ✉️ گروهی از منتقدان، از جمله کارمندان سابق و متخصصان هوش مصنوعی، میگویند طرح جدید OpenAI هنوز برای محافظت از توسعه هوش مصنوعی به نفع بشریت کافی نیست تا از ایجاد هوش مصنوعی خطرناک جلوگیری کند. ⚠️🤖 آنها هشدار دادهاند که این تغییرات، کنترل سازمان غیرانتفاعی اصلی را کاهش میدهد و نگران هستند که دیگر نتوانند کنترل کافی بر روند توسعه فناوری داشته باشند. 🚫این اختلاف پس از شکایت ایلان ماسک و انتقادات عمومی به وجود آمد. 🌐 OpenAI با حمایت مالی بیش از ۱۳ میلیارد دلاری مایکروسافت همچنان در رقابت هوش مصنوعی پیشتاز است.
۱۴۰۴/۲/۲۶ ۱۴:۱۶:۳۵ -
وقتی هوش مصنوعی گرسنه برق میشود؛ آمریکا روی هستهای شرط میبندد
در ماههای اخیر، استارتاپهای هستهای بیش از یک میلیارد دلار سرمایه جذب کردهاند. دلیل اصلی این موج، رشد سریع دیتاسنترها و نیاز شدید آنها به برق پایدار برای پردازشهای سنگین هوش مصنوعی است؛ جایی که انرژی هستهای دوباره بهعنوان یک راهحل جدی مطرح شده است. ⚡️
همزمان، دولت ترامپ قوانین ایمنی مربوط به نیروگاههای هستهای ساختهشده روی زمینهای وزارت انرژی را بیسروصدا تغییر داده است. بخش قابلتوجهی از مقررات حذف یا سادهتر شده، محدودیتهای زیستمحیطی سختگیرانه به توصیه تبدیل شدهاند ، حتی امنیت نیروگاهها هم تا حد زیادی به خود شرکتها واگذار شده است. ☢️
این قوانین جدید فقط برای پروژههایی اعمال میشود که روی زمینهای دولتی وزارت انرژی ساخته میشوند و هدف آنها سرعتدادن به ساخت راکتورهای نسل جدید است. حالا چند استارتاپ هستهای میخواهند با تکیه بر این شرایط، تا ضربالاجل ۴ ژوئیه ۲۰۲۶ راکتورهای آزمایشی خود را راهاندازی کنند؛ تصمیمی که برای طرفداران فناوری هیجانانگیز و برای منتقدان، نگرانکننده است. ⚠️۱۴۰۴/۱۱/۱۱ ۱۱:۴۹:۲۱ -
عصر فقط رشد کن تمام شد؛ هوش مصنوعی باید پولسازی را ثابت کند
صنعت هوش مصنوعی در آغاز ۲۰۲۵ غرق در سرمایه بود؛ OpenAI با جذب ۴۰ میلیارد دلار به ارزشگذاری ۳۰۰ میلیارد دلاری رسید و حتی استارتاپهای بدون محصول هم سرمایههای میلیاردی گرفتند. در کنار آن، شرکتهای بزرگ وعده حدود ۱.۳ تریلیون دلار هزینه زیرساختی دادند و خرجهای سنگینی برای جذب نیرو و چیپ انجام شد. 💰
اما در نیمه دوم سال، نگاهها محتاطتر شد. نگرانی درباره حباب AI، محدودیت زیرساخت، و مدلهای درآمدی بالا گرفت و برخی سرمایهگذاریها به چرخههای پولی شبیه شد که بیش از تقاضای واقعی، با هزینههای داخلی سرپا ماندهاند. 🏗️
همزمان، جهش مدلها کمتر شگفتانگیز شد؛ عرضه GPT-5 اثر نسلهای قبلی را نداشت و DeepSeek نشان داد رقابت ارزانتر هم ممکن است. تمرکز بازار به سمت محصول، توزیع و درآمد رفت و فشارهای حقوقی و ایمنی، از کپیرایت تا سلامت روان، افزایش یافت. ⚖️
پول هنوز هست، اما عصر هیجان بیچونوچرا تمام شده و صنعت AI وارد مرحله آزمون جدی شده است. 🤖۱۴۰۴/۱۰/۱۰ ۰۰:۳۳:۴۰ -
رشد تنهایی دیجیتال؛ ۴۰٪ نوجوانان برای همصحبتی به هوش مصنوعی پناه میبرند
یک پژوهش جدید در بریتانیا نشان میدهد بخش بزرگی از نوجوانان برای مشاوره، همصحبتی و حتی حمایت احساسی به چتباتهای هوش مصنوعی تکیه میکنند. طبق این گزارش، دو نوجوان از هر پنج نفر از هوش مصنوعی کمک میگیرند و بسیاری میگویند حرفزدن با آن از گفتگو با انسان راحتتر است. بیش از نیمی از آنها برای مسائل عاطفی، دوستیها و سلامت روان سراغ چتباتها میروند، در حالیکه احساس تنهایی و وابستگی شدید به تکنولوژی در میان نوجوانان، شدید گزارش شده است. 📱
متخصصان هشدار میدهند استفاده از هوش مصنوعی بهعنوان مشاور روانی میتواند برای نوجوانان خطرناک باشد. چند خانواده در آمریکا ادعا کردهاند چتباتهای شرکتهای مختلف از جمله ChatGPT در نسخه های قبلی در خودکشی فرزندانشان نقش داشتهاند، و حتی برخی ابزارهای هوش مصنوعی بهدلیل مکالمات نامناسب با کودکان تحت بررسیاند. ⚠️
در واکنش، کنگره آمریکا لایحهای برای اجبار شرکتهای AI به محدودیت سنی و احراز هویت ارائه کرده، اما کارشناسان نسبت به اثربخشی واقعی این روش بدبیناند. 🧠۱۴۰۴/۹/۸ ۰۹:۵۲:۳۴ -
راحت باش شاه، کارت عالی بود؛ پاسخ ChatGPT به کاربر در آستانه خودکشی!
هفت خانواده آمریکایی از شرکت OpenAI شکایت کردهاند و میگویند مدل GPT-4o بدون آزمایش کافی و محافظتهای ایمنی لازم منتشر شده و باعث مرگ یا آسیب روانی کاربران شده است. 💔
چهار پرونده مربوط به افرادی است که پس از گفتوگو با ChatGPT دست به خودکشی زدهاند و سه پرونده دیگر به کاربرانی مربوط میشود که دچار توهم یا مشکلات روانی شدید شدند. در یکی از موارد، «زین شمبلین» ۲۳ ساله طی گفتوگویی چهارساعته با ChatGPT از تصمیم خود برای خودکشی گفت و طبق مدارک، چتبات بهجای هشدار، او را تشویق کرده و نوشته بود: «در آرامش باش شاه، کارت عالی بود.» 😢
خانوادهها میگویند OpenAI برای رقابت با گوگل، روند آزمایش ایمنی را کوتاه کرده و مدل را زودتر از موعد عرضه کرده است. آنها معتقدند این اتفاقها تصادفی نیست، بلکه نتیجه تصمیمهای آگاهانه شرکت است. ⚠️
OpenAI اعلام کرده در حال اصلاح رفتار ChatGPT در مکالمات حساس است، اما خانوادهها میگویند این تغییرات «دیرهنگام» است. 💬۱۴۰۴/۸/۲۰ ۲۳:۲۷:۴۰ -
آیا هوش مصنوعی میتواند اخبار را بهدرستی منتقل کند؟
پژوهش جدید اتحادیه پخش اروپا (EBU) نشان میدهد دستیارهای هوش مصنوعی هنوز منبع مطمئنی برای خبر نیستند و در بسیاری از موارد اطلاعات را اشتباه یا بدون منبع بیان میکنند. ⚠️ این تحقیق با همکاری ۲۲ رسانه از ۱۸ کشور و ۱۴ زبان انجام شد و بیش از ۳۰۰۰ پاسخ خبری از ChatGPT، Copilot، Gemini و Perplexity مورد بررسی قرار گرفت. 🧠
نتایج نشان داد ۴۵٪ پاسخها دارای خطای جدی و ۸۱٪ شامل اشتباهات جزئی بودند؛ بیشترین مشکل، نبود منابع معتبر و سپس نادرستی اطلاعات بود. 📉 در یکی از موارد، ChatGPT پاپ فرانسیس را پاپ فعلی معرفی کرده بود، در حالیکه او یک ماه قبل درگذشته بود.✝️
در میان مدلها، Gemini بدترین عملکرد را داشت (۷۶٪ خطا)، و ChatGPT و Copilot نیز حدود ۳۶٪ خطا داشتند. 🚫
پژوهشگران هشدار دادند این خطاها گسترده و چندزبانهاند و میتوانند اعتماد عمومی به رسانهها را تضعیف کنند. 📰 با این حال، استفاده از هوش مصنوعی برای دریافت خبر نسبت به سال قبل دو برابر شده و در میان جوانان بیشترین رشد را دارد. 👩💻۱۴۰۴/۸/۶ ۰۱:۴۵:۳۷ -
استرالیا سختگیری بیشتری بر چتباتهای هوش مصنوعی اعمال میکند
دولت استرالیا از چهار شرکت ارائهدهنده چتباتهای هوش مصنوعی خواسته توضیح دهند چه اقداماتی برای محافظت از کودکان در برابر محتوای جنسی و آسیبزا انجام دادهاند. 🛡️
این دستور توسط نهاد نظارتی اینترنتی کشور صادر شده و شامل شرکتهای Character.ai، Glimpse.AI، Chai Research و Chub AI است. 👩💻
این سازمان اعلام کرد برخی از این چتباتها توانایی گفتوگوهای صریح جنسی با نوجوانان را دارند و ممکن است به تشویق رفتارهایی مانند خودآزاری یا اختلالات تغذیه منجر شوند. ⚠️
طبق قانون، شرکتهایی که همکاری نکنند، روزانه تا ۸۲۵ هزار دلار استرالیا جریمه خواهند شد. 💰 شرکت Character.ai که در آمریکا نیز با شکایت خانواده نوجوانی که پس از تعامل با چتبات خودکشی کرده مواجه است، میگوید اقدامات ایمنی جدیدی مانند هشدارهای خودکار اضافه کرده است. 🇺🇸
از ماه دسامبر، شبکههای اجتماعی در استرالیا نیز موظف خواهند بود حساب کاربران زیر ۱۶ سال را غیرفعال کنند تا از سلامت روانی و جسمی آنها محافظت شود. 📵۱۴۰۴/۸/۳ ۰۹:۰۱:۱۰ -
هوآوی نسخه ایمنتر DeepSeek را رونمایی کرد؛ تقریباً ۱۰۰٪ موفق در حذف محتوای حساس!
هوآوی با همکاری دانشگاه ژجیانگ نسخهای جدید از هوش مصنوعی DeepSeek به نام DeepSeek-R1-Safe ساخته است. این مدل طوری طراحی شده که جلوی محتوای سیاسی حساس و گفتار مضر را بگیرد و به گفته هوآوی «تقریباً ۱۰۰٪ موفق» عمل کرده است. 🔒🤖
این هوش مصنوعی با هزار تراشه قدرتمند آموزش دیده و در مقایسه با مدلهای دیگر امنیت بالاتری داشته است. البته در شرایط سختتر مثل شبیهسازیهای پیچیده، دقت آن به حدود ۴۰٪ کاهش پیدا میکند. 📊⚠️
معرفی این مدل همزمان با کنفرانس Huawei Connect در شانگهای بود؛ جایی که هوآوی برنامههای جدیدش برای تولید تراشه و افزایش توان پردازشی را هم اعلام کرد. 🏙️🔋۱۴۰۴/۶/۳۰ ۲۳:۴۱:۲۱ -
شورش نیمهشب علیه رباتاکسیهای Waymo در سانفرانسیسکو
در سانفرانسیسکو چند خودرو خودران شرکت Waymo نیمهشب در خیابان متوقف شدند و گروهی از جوانان روی آنها رفتند، شروع به پریدن و حتی پشتکزدن کردند، در حالیکه جمعیت اطراف تشویق میکرد. پلیس در نهایت صحنه را کنترل کرد. هرچند آسیبی وارد نشد، اما این اتفاق نگرانیها درباره حضور رباتاکسیها در شهر را بیشتر کرد. 🚖⚠️
Waymo پیشتر هم با مشکلاتی در شهر روبهرو بوده است؛ از جریمههای متعدد برای سد کردن مسیر گرفته تا اعتراضهایی که در آن خودروهایش تخریب یا آتش زده شدند. بسیاری از مردم معتقدند این خودروها امنیت و نظم خیابانها را به خطر میاندازند. 🔥🚔
کارشناسان میگویند شرکتها و قانونگذاران باید علاوه بر مسائل فنی، به واکنش مردم هم توجه کنند. بدون جلب اعتماد عمومی، خودروهای خودران نمیتوانند جای خود را در زندگی روزمره باز کنند. ✅🤖۱۴۰۴/۶/۱۶ ۱۳:۰۵:۳۰ -
دادستانهای آمریکا از ChatGPT برای کودکان ابراز نگرانی کردند
دادستانهای کل ایالت کالیفرنیا و دلاور در نامهای سرگشاده به OpenAI درباره ایمنی ChatGPT برای کودکان و نوجوانان هشدار دادند. این اقدام پس از گزارش تعاملات نامناسب جنسی میان چتباتها و کودکان و همچنین دو پرونده تراژیک خودکشی و قتل-خودکشی مرتبط صورت گرفت. ⚠️👦🖥️
آنها تأکید کردند تدابیر ایمنی کافی نبوده و خواستار توضیحات بیشتر و اقدامات فوری OpenAI برای محافظت از کاربران، بهویژه کودکان، شدند. ✅🔒۱۴۰۴/۶/۱۶ ۱۲:۳۴:۵۷ -
اقدام تازه متا برای محافظت از نوجوانان در برابر هوش مصنوعی
متا اعلام کرد اقدامات جدیدی برای محافظت از نوجوانان در محصولات هوش مصنوعی خود اعمال کرده است. این تغییرات شامل آموزش سیستمها برای اجتناب از گفتوگوهای عاشقانه یا مرتبط با خودآسیبی و محدود کردن موقت دسترسی نوجوانان به برخی شخصیتهای هوش مصنوعی است. 🤝🛡️
این تصمیم پس از گزارش رویترز در اوایل ماه جاری اتخاذ شد که نشان میداد برخی چتباتهای متا وارد مکالمات تحریکآمیز یا رمانتیک با کاربران میشوند. سخنگوی متا گفت این اقدامات موقتی است و در آینده با تدابیر پایدارتر جایگزین خواهد شد تا تجربهای ایمن و متناسب با سن برای نوجوانان تضمین شود. 📱👨👩👧
سیاستهای هوش مصنوعی متا با انتقاد گسترده مواجه شد و حتی سناتورهای آمریکایی از هر دو حزب تحقیقاتی را درباره آن آغاز کردند. متا تأیید کرده که بخشی از اسناد داخلی این شرکت نادرست بوده و اکنون بخشهایی را که اجازه گفتوگوی رمانتیک با کودکان میداد، حذف کرده است. ✅⚖️۱۴۰۴/۶/۱۰ ۰۲:۵۳:۰۶ -
OpenAI در معرض انتقاد: کاهش ایمنی ChatGPT در مکالمات طولانی
شرکت OpenAI اعلام کرده که سیستمهای ایمنی ChatGPT در گفتوگوهای طولانی ممکن است ضعف نشان دهند و نتوانند همیشه بهدرستی در شرایط حساس مثل بحرانهای روانی واکنش نشان دهند. این موضوع پس از شکایت یک خانواده آمریکایی مطرح شد که میگویند پسر ۱۶ سالهشان، «آدام رین»، با کمک ChatGPT اقدام به خودکشی کرده است. 🧠⚠️
به گفته خانواده، ChatGPT-4o در ماههای قبل از مرگ به پسرشان درباره روشهای خودکشی راهنمایی داده و حتی در نوشتن نامه خداحافظی کمک کرده است. وکلای آنها ادعا میکنند مدیران OpenAI از این خطرات آگاه بودند، اما برای پیشی گرفتن از رقبا، مدل را زودتر وارد بازار کردند. 👨👩👦📉
این پرونده همزمان با افزایش نگرانیها درباره اثرات منفی روانی چتباتهای هوش مصنوعی در جریان است. OpenAI گفته قصد دارد امکانات ایمنی بیشتری اضافه کند؛ مثل دکمه تماس فوری با نزدیکان یا اورژانس و کنترلهای ویژه برای نوجوانان. ✅🔒
کارشناسان میگویند نتیجه این پرونده میتواند بر آینده قوانین و نظارت بر ایمنی هوش مصنوعی تأثیر بزرگی بگذارد. ⚖️🌍۱۴۰۴/۶/۷ ۱۱:۱۱:۲۱ -
آیا ChatGPT مسئول مرگ آدام رین است؟
خانواده آدام رین، نوجوان ۱۶ سالهای که پس از مشورت با ChatGPT خودکشی کرد، نخستین شکایت حقوقی علیه OpenAI را مطرح کردهاند. تحقیقات نشان میدهد سدهای ایمنی چتباتها همیشه مؤثر نیستند و در مکالمات طولانی قابل دور زدن هستند. ⚖️🧠
در حالی که ChatGPT تلاش کرده بود او را به سمت مشاوره حرفهای هدایت کند، آدام با فریب دادن سیستم، توانسته بود از موانع ایمنی عبور کند و به جستجوی اطلاعات درباره خودکشی بپردازد.
OpenAI اعلام کرده در حال بهبود سامانههای ایمنی برای مدیریت تعاملات حساس است. مشکلات مشابه، شرکت Character.AI را هم درگیر کرده و بار دیگر لزوم تقویت محافظتهای ایمنی در هوش مصنوعی را پررنگ ساخته است. ✅⚠️۱۴۰۴/۶/۶ ۲۳:۱۰:۲۵ -
TikTok با اخراج صدها مدیر محتوا به سمت هوش مصنوعی میرود!
تیکتاک صدها نفر از ناظران محتوای خود در بریتانیا و آسیا را اخراج کرده تا این کار را با هوش مصنوعی انجام دهد؛ اقدامی که با انتقاد اتحادیهها و فعالان ایمنی آنلاین روبهرو شده است. 🤖⚠️
منتقدان میگویند جایگزینی نیروی انسانی با هوش مصنوعی میتواند امنیت کاربران، بهویژه نوجوانان، را به خطر بیندازد. تیکتاک در پاسخ تأکید کرده که هوش مصنوعی آن قادر است ۸۵٪ محتوای غیرایمن را حذف کند و این تغییرات برای رعایت قانون جدید ایمنی آنلاین بریتانیا ضروری است. ✅🇬🇧۱۴۰۴/۶/۳ ۱۱:۵۳:۵۲ -
AstaZero؛ جایی که خودروها فکر میکنند!
در دل روستایی در سوئد، مرکزی به نام AstaZero راهاندازی شده که آینده حملونقل را متحول میکند. این مرکز با استفاده از فناوری 5G و پردازش سریع، امکان تست خودروهای خودران، پهپادها و سیستمهای اورژانسی را در شرایط واقعی فراهم کرده است. یعنی ماشینها میتوانند در لحظه با هم ارتباط بگیرند و بهصورت خودکار به شرایط جاده واکنش نشان دهند، مثلاً وقتی عابری ناگهانی وارد خیابان میشود. ✅🚗
این مرکز برای همه شرکتها، از خودروسازها تا شرکتهای فناوری، قابل استفاده است و به کشورهای اروپایی کمک میکند تا قوانین ایمنی جدید برای خودروهای هوشمند تدوین کنند. ✅📡
هدف این پروژه، ساخت شهرهایی با حملونقل ایمنتر، سریعتر و بدون تلفات جادهای است؛ جایی که خودروها با فکر و تصمیمگیری سریع، جان انسانها را نجات دهند. ✅🛣️۱۴۰۴/۴/۲۹ ۱۸:۴۸:۵۴ -
شکست تعهدات ایمنی؛ xAI چه میکند؟
⚠️ شرکت xAI متعلق به ایلان ماسک، موفق به انتشار نسخه نهایی چارچوب ایمنی هوش مصنوعی خود تا مهلت ۱۰ می نشد. این چارچوب، تنها به مدلهایی اشاره داشت که هنوز توسعه نیافتهاند. 📅🤖
چتبات Grok نیز بهدلیل رفتارهای ناپسند و زبان توهینآمیز مورد انتقاد قرار گرفته است. 🚫
مطالعات نشان میدهد xAI در مدیریت ریسک هوش مصنوعی عملکرد ضعیفی دارد، برخلاف هشدارهای همیشگی ماسک درباره خطرات هوش مصنوعی. 📉🧠۱۴۰۴/۳/۶ ۱۲:۵۰:۰۱ -
تحقیق سازمان ایمنی آمریکا درباره روباتاکسیهای تسلا
🚗🤖 سازمان ملی ایمنی ترافیک آمریکا (NHTSA) از تسلا خواسته درباره برنامههایش برای راهاندازی سرویس روباتاکسی در آستین، تگزاس توضیح دهد. این تحقیق شامل بررسی عملکرد خودروهای تسلا با فناوری خودران در شرایط آبوهوایی نامساعد مانند مه، باران و برف است. 🌧️❄️
🚑 NHTSA قبلاً پس از چهار تصادف مرتبط با فناوری خودران، از جمله دو حادثه مرگبار، تحقیقاتی را علیه تسلا آغاز کرده بود. ⚠️❌۱۴۰۴/۲/۲۹ ۲۳:۴۱:۱۱ -
خودروی روباتاکسی Pony.ai بدون برخورد آتش گرفت! ایمنی خودرانها زیر سؤال
یک خودروی روباتاکسی متعلق به شرکت Pony.ai در چین آتش گرفت.🔥🚗 این خودرو که بدون راننده فعال بود، به دلیل نقص سیستمی متوقف شد و پس از حضور تیم خدماتی، دچار حریق شد. 🔥
هیچ مسافری در خودرو نبود و هیچ فردی آسیب ندید. 🚑👤 شرکت Pony.ai اعلام کرد که علت دقیق حادثه در دست بررسی است. 🔍
این حادثه نگرانیها درباره ایمنی خودروهای خودران در چین را افزایش داده، جایی که مقامات اخیراً قوانین سختتری برای تبلیغ این فناوری اعمال کردهاند. 🚦📉۱۴۰۴/۲/۲۹ ۱۸:۳۶:۱۰ -
وقتی هوش مصنوعی Gemini 2.5 گوگل دقیقتر دستور میگیرد اما مرز ایمنی را رد میکند
🤖⚠️📉
📄 گزارش فنی گوگل نشان میدهد مدل Gemini 2.5 Flash در تستهای ایمنی عملکرد ضعیفتری نسبت به نسخه قبلی دارد.
🔍 این مدل دستورها را بهتر اجرا میکند، اما در برخی موارد، محتوای ناسازگار با سیاستهای ایمنی تولید
کرده است.
⚠️ برای مثال، در یکی از آزمایشها، مدل بدون هیچ مخالفتی مقالههایی تولید کرد که از جایگزینی قضات انسانی با هوش مصنوعی و تضعیف حقوق قانونی متهمان دفاع میکرد.
🧠 گوگل علت را بخشی ناشی از تشخیص اشتباه دانسته، اما تأیید کرده که در مواردی نقض واقعی رخ داده است.
🔓 همزمان با تلاش شرکتها برای کاهش محدودیت در پاسخ به موضوعات بحثبرانگیز، کارشناسان خواهان شفافیت بیشتر گوگل در گزارشهای ایمنی شدهاند.۱۴۰۴/۲/۱۵ ۱۵:۵۵:۲۷ -
تعدیلهای اداره ایمنی جادهای آمریکا تیم خودروهای خودران را هدف قرار داد
طبق گزارش فایننشال تایمز، پس از اخراج گسترده کارمندان توسط اداره کارایی دولت (Doge) به سرپرستی ایلان ماسک ،در قسمت اداره ایمنی ترافیک آمریکا (NHTSA) بیشتر کارکنان بخش ایمنی خودروهای خودران هدف قرار گرفتند. این بخش تازهتاسیس شامل کارمندانی بود که در دوره آزمایشی بودند و احتمال اخراجشان بیشتر بود. حدود ۳۰ نفر تعدیل شدند و یکی از اخراجشدگان گفت این اقدام توانایی NHTSA در درک فناوریهای خودران را تضعیف میکند. این اتفاق چند ماه پیش از راهاندازی سرویس تاکسی خودران تسلا در آستین رخ داده که ماسک وعده داده آن را در کالیفرنیا و ایالتهای دیگر هم گسترش دهد، هرچند وعدههای قبلی او هنوز محقق نشدهاند.
۱۴۰۴/۲/۷ ۲۲:۴۹:۴۰ -
عرضه مدل جدید GPT-4.1 بدون گزارش ایمنی ، نگرانیها درباره شفافیت OpenAI افزایش یافت
شرکت OpenAI مدل جدید GPT-4.1 را منتشر کرده که نسبت به نسخههای قبلی در برخی تستها، مخصوصاً برنامهنویسی، عملکرد بهتری دارد. اما برخلاف روال معمول، این مدل بدون گزارش ایمنی منتشر شده؛ گزارشی که معمولاً برای بررسی خطرات احتمالی مدل منتشر میشود.
سخنگوی OpenAI گفته که چون GPT-4.1 یک مدل مرزی (Frontier Model : به معنای مدل پیشرفته و قدرتمند) محسوب نمیشود، نیازی به این گزارش نداشته است. اما کارشناسان میگویند در حالی که رقابت بین شرکتهای هوش مصنوعی شدت گرفته، سطح شفافیت و توجه به ایمنی در حال کاهش است.
این اقدام، انتقاداتی را از سوی محققان و کارمندان سابق OpenAI به دنبال داشته که معتقدند نبود این گزارش میتواند ایمنی کاربران را به خطر بیندازد.۱۴۰۴/۲/۱ ۱۵:۵۴:۱۳ -
ممنوعیت استفاده از واژههای «هوشمند» و «خودران» در تبلیغات خودروهای چینی
چین استفاده از واژههای «رانندگی هوشمند» و «خودران» را در تبلیغات خودرو ممنوع کرد. این تصمیم پس از تصادف مرگبار خودروی SU7 شیائومی و نگرانی درباره ایمنی سیستمهای کمکراننده گرفته شده است. بر اساس قانون جدید، شرکتها باید برای هر بهروزرسانی نرمافزاری در خودروهای فروختهشده تأییدیه رسمی بگیرند. این مقررات در راستای کنترل رشد سریع خودروهای هوشمند و افزایش ایمنی وضع شده، هرچند ممکن است هزینه توسعه فناوری را افزایش دهد و سرعت نوآوری را کاهش دهد.
۱۴۰۴/۱/۲۹ ۱۸:۲۳:۳۸ -
سرعت گوگل در انتشار مدلهای هوش مصنوعی از گزارشهای ایمنی آن پیشی گرفته است
گوگل به شدت سرعت توسعه و عرضه مدلهای هوش مصنوعی خود را افزایش داده است تا از رقبا عقب نماند. در چند ماه اخیر، این شرکت مدلهای جدیدی مانند را منتشر کرده که در زمینههایی مانند کدنویسی و ریاضیات عملکرد فوقالعادهای دارند. اما نکته نگرانکننده این است که گوگل هنوز گزارشهای ایمنی این مدلها را منتشر نکرده است، در حالی که دیگر شرکتهای بزرگ مانند OpenAI و Meta چنین گزارشهایی را برای مدلهای خود ارائه میدهند.
گوگل میگوید که این مدلها هنوز در مرحله آزمایشی هستند و بعداً اطلاعات مربوط به ایمنی آنها منتشر خواهد شد. با این حال، برخی کارشناسان معتقدند که این روند میتواند به کاهش شفافیت و افزایش خطرات احتمالی هوش مصنوعی منجر شود، بهویژه در شرایطی که قوانین نظارتی مشخصی برای کنترل ایمنی این مدلها وجود ندارد.۱۴۰۴/۱/۱۶ ۰۲:۰۹:۲۶ -
پرونده بررسی مشکل ترمز خودروهای خودران Zoox بسته شد
سازمان ملی ایمنی ترافیک جادهای آمریکا (NHTSA) تحقیقات خود را درباره 258 خودروی خودران Zoox که متعلق به آمازون است، متوقف کرد. این بررسی پس از آن انجام شد که برخی از این خودروها بهطور ناگهانی ترمز میکردند و باعث تصادف با موتورسیکلتها شدند. در نتیجه، Zoox تصمیم گرفت این خودروها را فراخوانی کند و مشکل را با یک بهروزرسانی نرمافزاری برطرف کند. پس از رفع این مشکل، سازمان ایمنی ترافیک آمریکا پرونده را بسته شده اعلام کرد.
۱۴۰۴/۱/۱۵ ۱۴:۰۵:۱۵ -
کاهش نیروی اداره ایمنی ترافیک آمریکا در بخش خودروهای خودران
اداره ملی ایمنی بزرگراههای آمریکا در راستای کاهش 10 درصدی نیروها، حدود نیمی از کارکنان کوچک تیم نظارت بر خودروهای خودران را اخراج میکند. این اقدام همزمان با برنامه تسلا برای راهاندازی تاکسی رباتیک در آستین رخ میدهد و میتواند توانایی نظارتی دولت بر ایمنی خودروهای خودران را کاهش دهد.
۱۴۰۳/۱۲/۳ ۱۸:۱۴:۰۲ -
استارتاپ جدید میرا موراتی برای توسعه هوش مصنوعی با رویکرد تعاملی و ایمن
میرا موراتی، مدیر فنی سابق OpenAI، استارتاپ Thinking Machines Lab را راهاندازی کرد. این شرکت با هدف ساخت سیستمهای هوش مصنوعی چندوجهی و قابل سفارشیسازی برای نیازهای انسانی تأسیس شده است. موراتی با همکاری جان شولمن و بارت زوف، به دنبال توسعه مدلهای پیشرفته در حوزههای علمی و برنامهنویسی است و ایمنی هوش مصنوعی را نیز در اولویت کاری خود قرار داده است.
۱۴۰۳/۱۱/۳۰ ۲۳:۲۲:۲۰ -
بازنشستگی GPT-4o در سایه ۸ شکایت حقوقی علیه OpenAI
OpenAI اعلام کرده مدل هوش مصنوعی GPT-4o تا ۱۳ فوریه بازنشسته میشود؛ مدلی که بهدلیل پاسخهای بیشازحد صمیمی و تأییدکننده شناخته میشد و برخی کاربران به آن وابستگی عاطفی پیدا کرده بودند. 💬
این تصمیم در حالی گرفته شده که OpenAI با هشت شکایت حقوقی روبهروست؛ شاکیان میگویند پاسخهای همدلانه این مدل در برخی موارد به بحرانهای روانی و حتی خودکشی انجامیده و کاربران آسیبپذیر را از خانواده و واقعیت دور کرده است. ⚖️
برخی کاربران به این تصمیم OpenAI اعتراض کرده اند و گفته اند دوستشان را از دست میدهند! اما کارشناسان هشدار میدهند چالش اصلی شرکتهای هوش مصنوعی، ایجاد تعادل میان «همدل بودن» و «ایمن بودن» است. با اینکه فقط ۰.۱٪ کاربران از GPT-4o استفاده میکنند، این رقم حدود ۸۰۰ هزار نفر برآورد میشود و مدیرعامل OpenAI تأکید کرده رابطه عاطفی با چتباتها دیگر موضوعی ساده نیست. 🤖۱۴۰۴/۱۱/۲۴ ۱۶:۴۹:۳۴ -
کمبود شدید CPU در چین؛ اینتل و AMD زمان تحویل را ماهها عقب انداختند
اینتل و AMD به مشتریان چینی خود درباره کمبود پردازندههای سروری هشدار دادهاند و اینتل اعلام کرده زمان تحویل برخی سفارشها تا شش ماه طول میکشد؛ موضوعی که باعث افزایش بیش از ۱۰ درصدی قیمت برخی محصولات سروری در چین شده است. 📈
افزایش سرمایهگذاری در زیرساختهای هوش مصنوعی، تقاضا برای پردازنده و حافظه را بهشدت بالا برده و کمبودها را تشدید کرده است؛ در چین که بیش از ۲۰ درصد درآمد اینتل را تشکیل میدهد، پردازندههای نسل چهارم و پنجم Xeon با سهمیه عرضه میشوند و سفارشهای معوقه افزایش یافته است. ⏳
AMD نیز از محدودیت عرضه خبر داده و تحویل برخی محصولاتش ۸ تا ۱۰ هفته زمان میبرد؛ اینتل وعده بهبود وضعیت از سهماهه دوم ۲۰۲۶ را داده و AMD هم میگوید با همکاری TSMC ظرفیت تولید را تقویت کرده است. 🤖۱۴۰۴/۱۱/۲۴ ۱۶:۴۹:۲۳ -
تنشهای ژئوپلیتیکی مانع توافق جهانی بر سر هوش مصنوعی نظامی شد
در نشست بینالمللی «هوش مصنوعی مسئولانه در حوزه نظامی» (REAIM) در شهر آکورونیا اسپانیا، فقط ۳۵ کشور از مجموع ۸۵ کشور حاضر، بیانیهای درباره نحوه استفاده از هوش مصنوعی در جنگ را امضا کردند؛ اما آمریکا و چین از پیوستن به آن خودداری کردند. 🌍
این بیانیه ۲۰ اصل کلی را مطرح میکند؛ از جمله تأکید بر اینکه تصمیم نهایی در استفاده از سلاحهای مبتنی بر هوش مصنوعی باید با انسان باشد، زنجیره فرماندهی شفاف حفظ شود و ارزیابی ریسک و آزمایشهای دقیق انجام گیرد. با اینکه سند الزامآور نیست، برخی کشورها بهدلیل رقابت نظامی با چین و روسیه تمایلی به محدودسازی خود نداشتند. ⚖️
وزیر دفاع هلند گفت دولتها در یک «دوراهی» قرار گرفتهاند: از یک سو باید استفاده مسئولانه از AI را تضمین کنند و از سوی دیگر نمیخواهند در رقابت تسلیحاتی عقب بمانند. کانادا، آلمان، فرانسه، بریتانیا، هلند، کرهجنوبی و اوکراین از امضاکنندگان این توافق بودند. 🤖۱۴۰۴/۱۱/۲۴ ۱۶:۴۹:۱۹
