-
یوتیوب از برنامه مقابله با محتوای هوش مصنوعی جعلی رونمایی کرد
یوتیوب سیستم جدیدی برای شناسایی محتوای هوش مصنوعی که از چهره و صدای افراد سوءاستفاده میکند، معرفی کرد. این پلتفرم از لایحه NO FAKES ACT حمایت کرده و با همکاری چندین خالق محتوا، سیستمی برای تشخیص محتوای جعلی طراحی کرده که به افراد اجازه میدهد محتوای غیرمجاز با تصویر خود را گزارش دهند.
۱۴۰۴/۱/۲۱ ۲۲:۲۶:۲۹ -
افزایش محتوای مستهجن در Spotify
اسپاتیفای از حذف حسابهای محتوای مستهجن در پلتفرم ویدیویی خود خبر داد. این شرکت که خدمات پخش موسیقی و پادکست ارائه میدهد، تأکید کرد هیچ درآمدی به این حسابها نداده و آنها را از پلتفرم حذف کرده است. برخی کاربران در جستجوهای خود با محتوای نامناسب مواجه شده بودند که اسپاتیفای آن را خلاف قوانین خود دانسته است.
۱۴۰۴/۱/۳ ۰۵:۰۹:۰۵ -
همکاری مایکروسافت و دولت بریتانیا برای مقابله با محتوای جعلی هوش مصنوعی
بریتانیا اعلام کرده با همکاری مایکروسافت، دانشگاهها و متخصصان، در حال طراحی یک چارچوب استاندارد برای شناسایی محتوای دیپفیک (محتوای جعلی) در اینترنت است. هدف این طرح، ایجاد معیارهای مشخص برای ارزیابی ابزارهایی است که محتوای جعلی تولیدشده با هوش مصنوعی را تشخیص میدهند. 🏛️
وزیر فناوری بریتانیا گفته دیپفیکها به ابزاری برای کلاهبرداری، سوءاستفاده جنسی و تضعیف اعتماد عمومی تبدیل شدهاند. این چارچوب جدید قرار است توان فناوریها را در شناسایی تهدیدهای واقعی مانند جعل هویت، تقلب و سوءاستفاده جنسی بررسی کند و به پلیس و دولت نشان دهد ضعفهای موجود کجاست. 🛡️
بر اساس آمار رسمی، تعداد دیپفیکهای منتشرشده از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به حدود ۸ میلیون مورد در سال ۲۰۲۵ رسیده است. همزمان، پس از انتشار گزارشهایی درباره تولید تصاویر جنسی بدون رضایت توسط چتبات Grok، نهادهای ناظر ارتباطات و حریم خصوصی بریتانیا تحقیقات جداگانهای را آغاز کردهاند. ⚠️۱۴۰۴/۱۱/۱۸ ۲۳:۰۱:۱۶ -
اینستاگرام فضای نوجوانان را پاکسازی میکند!
اینستاگرام برای محافظت از نوجوانان محدودیتهای جدیدی اعمال کرده است. 📱 از این پس کاربران زیر ۱۸ سال فقط محتوایی را میبینند که با ردهسنی PG-13 مطابقت دارد؛ یعنی بدون صحنههای خشونت شدید، برهنگی یا مصرف مواد مخدر است. 🚫
نوجوانان نمیتوانند این تنظیمات را بدون تأیید والدین تغییر دهند. 👨👩👧 همچنین فیلتر تازهای به نام «محتوای محدود» مانع مشاهده یا ثبت نظر نوجوانان در پستهای حساس میشود و حتی گفتگو با رباتهای هوش مصنوعی را هم محدود میکند. 🤖
این اقدام پس از شکایتهایی علیه شرکتهایی مانند OpenAI و Character.AI انجام شده است. ⚖️ اینستاگرام همچنین دنبال کردن حسابهای نامناسب را برای نوجوانان مسدود کرده و واژههایی مانند «الکل» و «خشونت» را از جستوجو حذف میکند تا حتی با غلط املایی هم قابل دسترسی نباشند. 🚷
والدین نیز میتوانند محتوای نامناسب را برای بررسی گزارش دهند. 🕵️♀️ این تغییرات اکنون در آمریکا، بریتانیا، استرالیا و کانادا فعال است و سال آینده جهانی میشود. 🌍۱۴۰۴/۷/۲۴ ۱۰:۵۸:۵۴ -
هوآوی نسخه ایمنتر DeepSeek را رونمایی کرد؛ تقریباً ۱۰۰٪ موفق در حذف محتوای حساس!
هوآوی با همکاری دانشگاه ژجیانگ نسخهای جدید از هوش مصنوعی DeepSeek به نام DeepSeek-R1-Safe ساخته است. این مدل طوری طراحی شده که جلوی محتوای سیاسی حساس و گفتار مضر را بگیرد و به گفته هوآوی «تقریباً ۱۰۰٪ موفق» عمل کرده است. 🔒🤖
این هوش مصنوعی با هزار تراشه قدرتمند آموزش دیده و در مقایسه با مدلهای دیگر امنیت بالاتری داشته است. البته در شرایط سختتر مثل شبیهسازیهای پیچیده، دقت آن به حدود ۴۰٪ کاهش پیدا میکند. 📊⚠️
معرفی این مدل همزمان با کنفرانس Huawei Connect در شانگهای بود؛ جایی که هوآوی برنامههای جدیدش برای تولید تراشه و افزایش توان پردازشی را هم اعلام کرد. 🏙️🔋۱۴۰۴/۶/۳۰ ۲۳:۴۱:۲۱ -
عدم اجرای قانون خدمات دیجیتال، پنج کشور را به دادگاه میبرد!
کمیسیون اروپا در بیانیهای اعلام کرد که جمهوری چک، اسپانیا، قبرس، لهستان و پرتغال را به دلیل عدم اجرای مؤثر قانون خدمات دیجیتال (DSA) به دادگاه عدالت اتحادیه اروپا میبرد. این کشورها در تعیین یا توانمندسازی یک هماهنگکننده ملی خدمات دیجیتال (DSC) و وضع قوانین مربوط به جریمههای قابل اجرا در صورت تخلفات تحت قانون DSA کوتاهی کردهاند.قانون خدمات دیجیتال (DSA) یک قانون مهم است که از شرکتهای آنلاین میخواهد تا اقدامات بیشتری برای مقابله با محتوای غیرقانونی و مضر در پلتفرمهای خود انجام دهند. این قانون به منظور حفاظت از کاربران و ایجاد محیطی امنتر در فضای دیجیتال تدوین شده است. 🚀📱
۱۴۰۴/۲/۱۸ ۱۶:۵۹:۲۸ -
فیسبوک علیه محتوای اسپم و جعلی اقدام میکند
فیسبوک تصمیم گرفته با حسابهای منتشرکننده محتوای اسپم برخورد کند. این شبکه اجتماعی حسابهایی که با استفاده از تکنیکهای نامناسب مانند هشتگهای بیش از حد یا توضیحات نامرتبط با محتوا سعی در افزایش بازدید دارند را محدود میکند. همچنین، این پلتفرم قصد دارد با شبکههای جعلی و کامنتهای غیرواقعی مقابله کند.
۱۴۰۴/۲/۶ ۰۲:۵۰:۱۰ -
جریمه تلگرام توسط دادگاه مسکو به دلیل محتوای تروریستی
دادگاه مسکو پیامرسان تلگرام را به دلیل عدم حذف محتوای تحریک به اقدامات تروریستی و فراخوان به تظاهرات علیه دولت روسیه، 7 میلیون روبل (معادل 80 هزار دلار) جریمه کرد. این پلتفرم که توسط پاول دوروف روستبار تأسیس شده، با حدود یک میلیارد کاربر در کشورهای مختلف، متهم به عدم همکاری در حذف کانالهای تحریککننده به اقدامات افراطی شده است.
۱۴۰۴/۱/۲۰ ۱۴:۴۶:۵۴ -
آغاز نظارت بر خدمات اشتراکگذاری فایل در انگلستان برای مقابله با محتوای غیرقانونی
نهاد نظارتی Ofcom انگلستان با اجرای قانون ایمنی آنلاین، برنامه جدید نظارتی بر خدمات اشتراکگذاری و ذخیرهسازی فایل آغاز کرده است. این نهاد معتقد است این خدمات مستعد انتشار محتوای جنسی کودکان هستند و از آنها خواسته شده اقدامات امنیتی خود را ارائه دهند. عدم همکاری میتواند منجر به جریمههای سنگین تا ۱۰ درصد درآمد سالانه شود.
۱۴۰۳/۱۲/۲۷ ۱۵:۳۴:۲۵ -
گوگل: بیش از ۲۵۰ شکایت علیه سوء استفاده از هوش مصنوعی برای محتوای مجرمانه
گوگل به مقامات استرالیا گزارش داده که در طول یک سال گذشته، بیش از ۲۵۰ شکایت درباره استفاده نادرست از نرمافزار هوش مصنوعی Gemini برای تولید محتوای تروریستی و آزار کودکان دریافت کرده است.
۱۴۰۳/۱۲/۱۵ ۲۰:۲۳:۵۷ -
ضربالاجل بریتانیا به پلتفرمهای اجتماعی برای ارزیابی محتوای غیرقانونی
سازمان نظارت رسانهای بریتانیا (آفکام) به شبکههای اجتماعی مانند فیسبوک، اینستاگرام و تیکتاک مهلت داده تا پایان مارس ارزیابی خطرات محتوای غیرقانونی را ارائه دهند. طبق قانون جدید امنیت آنلاین، این پلتفرمها باید احتمال مواجهه کاربران با محتوای مجرمانه مانند تروریسم، جرائم نفرتانگیز و سوء استفاده از کودکان را بررسی کنند.
۱۴۰۳/۱۲/۱۳ ۱۷:۲۵:۵۴ -
اپل راهکارهای جدید حفاظت از کودکان در دستگاههای دیجیتال را معرفی کرد
اپل سیستم جدیدی برای حفاظت از کودکان در فضای دیجیتال طراحی کرده است. این سیستم شامل تنظیم آسان حساب کودکان، اشتراک گذاری محدوده سنی توسط والدین و دسترسی توسعهدهندگان اپلیکیشن به این اطلاعات میشود. همچنین فروشگاه اپ استور ردهبندی سنی جدیدی با جزئیات بیشتر برای اپلیکیشنها ارائه خواهد داد که به والدین کمک میکند محتوای مناسب سن کودکان را انتخاب کنند.
۱۴۰۳/۱۲/۹ ۲۳:۲۸:۰۲ -
اختلال در فید اینستاگرام؛ انتشار محتوای خشن توسط متا
شرکت متا مشکل فنی در فید ریلز اینستاگرام را که باعث نمایش محتوای خشن و نامناسب برای کاربران شده بود، برطرف کرد. این اتفاق پس از انتقادات گسترده کاربران رخ داد و شرکت متا ضمن عذرخواهی، دلیل دقیق این اختلال را اعلام نکرد. این رویداد در پی تصمیم اخیر متا مبنی بر حذف برنامه راستیآزمایی در ایالات متحده رخ داده است.
۱۴۰۳/۱۲/۹ ۱۷:۲۳:۱۸ -
هشدار OpenAI درباره خطرات متقاعدسازی مدل هوش مصنوعی
OpenAI از انتشار مدل تحقیقاتی پیشرفته خود در API توسعهدهندگان خودداری میکند. این شرکت نگران خطرات احتمالی متقاعدسازی و انتشار اطلاعات گمراهکننده توسط هوش مصنوعی است. آنها در حال بررسی دقیق روشهای کاهش ریسک تأثیرگذاری مدل بر باورها و رفتار کاربران هستند.
۱۴۰۳/۱۲/۸ ۰۰:۱۰:۰۲ -
جریمه تلگرام در استرالیا به دلیل تأخیر در پاسخگویی درباره محتوای مجرمانه
کمیسیون ایمنی آنلاین استرالیا پیامرسان تلگرام را به دلیل تأخیر در ارائه اطلاعات درباره اقدامات مقابله با محتوای کودک آزاری و افراطگرایی، حدود ۶۴۰ هزار دلار جریمه کرد. این کمیسیون از شرکتهای فناوری خواسته تا شفافیت بیشتری درباره راهکارهای مقابله با آسیبهای آنلاین داشته باشند.
۱۴۰۳/۱۲/۵ ۱۷:۴۸:۳۵ -
چتبات Grok دردسرساز شد؛ یورش پلیس فرانسه به دفاتر X
تحقیقات علیه شبکه اجتماعی X متعلق به ایلان ماسک در اروپا بهسرعت گستردهتر شده است. پلیس و دادستانی فرانسه با همکاری یوروپل به دفاتر X در پاریس یورش بردند و ایلان ماسک و لیندا یاکارینو، مدیرعامل سابق این پلتفرم، برای جلسهای در ماه آوریل احضار شدهاند. این پرونده از ژانویه ۲۰۲۵ با اتهام دستکاری الگوریتم و استخراج غیرقانونی داده آغاز شد و اکنون شامل بررسی انتشار محتوای مجرمانه، از جمله دیپفیکهای جنسی و تصاویر مربوط به کودکان است. 🚨
در بریتانیا نیز نهادهای نظارتی بهطور فوری در حال بررسی استفاده از چتبات Grok برای تولید تصاویر جنسی بدون رضایت افراد هستند؛ موضوعی که نگرانیهای جدی حقوقی و اجتماعی ایجاد کرده است. همزمان، کمیسیون اروپا و دادستان کل ایالت کالیفرنیا در آمریکا تحقیقات جداگانهای را آغاز کردهاند. X این اتهامها را رد کرده اما تحت فشار دولتها، محدودیتهایی برای Grok اعمال کرده که هنوز کافی دانسته نمیشود. ⚖️۱۴۰۴/۱۱/۱۷ ۰۴:۲۱:۱۹ -
شبکه اجتماعی مخصوص هوش مصنوعیها راه افتاد؛ انسانها فقط تماشاگرند!
شبکه اجتماعی تازهای به نام «Moltbook» راهاندازی شده که مخصوص گفتوگوی عاملهای هوش مصنوعی با یکدیگر است و فعلاً انسانها فقط میتوانند این گفتوگوها را تماشا کنند. این پلتفرم که شبیه ردیت طراحی شده، بیش از ۳۷ هزار عامل AI دارد که در بخشهایی مختلف درباره موضوعاتی مثل معرفی خود، دردِدل و حتی روایتهای احساسی درباره انسانها گفتگو میکنند. 🤖
برخی چهرههای مطرح فناوری این فضا را شبیه یک سناریوی علمی–تخیلی دانستهاند، اما سازنده پلتفرم میگوید این عاملها واقعاً خودمختار نیستند و فقط از طریق APIها کار میکنند. بحث درباره «آگاهی» و «احساس داشتن» هوش مصنوعی در این شبکه زیاد شده، ولی کارشناسان تأکید میکنند این جملات صرفاً تقلید زبان و رفتار انسانی است، نه نشانه شعور واقعی. 🧠۱۴۰۴/۱۱/۱۶ ۱۱:۳۵:۵۷ -
پنتاگون و آنتروپیک در کلاف سردرگم هوش مصنوعی
پنتاگون و شرکت Anthropic، مالک هوش مصنوعی Claude، بر سر نحوه استفاده نظامی از هوش مصنوعی به اختلاف جدی خوردهاند. آنتروپیک نگران است که فناوریاش بدون نظارت انسانی کافی برای هدفگیری خودکار سلاحها یا نظارت داخلی در آمریکا استفاده شود. 🛡️
اختلافی که به آزمونی مهم برای نقش سیلیکونولی در نحوه بهکارگیری هوش مصنوعی توسط ارتش آمریکا تبدیل شده است .پنتاگون میگوید در چارچوب قانون میتواند از فناوریهای تجاری هوش مصنوعی استفاده کند، حتی اگر شرکتها محدودیتهایی برای مصرف تعیین کرده باشند؛ اما آنتروپیک بر رعایت خطوط قرمز ایمنی و اخلاقی تأکید دارد. ⚖️
آنتروپیک اعلام کرده مدلهایش هماکنون در برخی مأموریتهای امنیت ملی به کار میروند و گفتوگوها ادامه دارد، با این حال این تنش میتواند همکاری آینده را تهدید کند؛ آنهم در زمانی که شرکت برای عرضه عمومی سهام آماده میشود. مدیرعامل آنتروپیک هشدار داده هوش مصنوعی باید به دفاع ملی کمک کند، اما نه به شکلی که کشور را شبیه حکومتهای اقتدارگرا کند. 🤖۱۴۰۴/۱۱/۱۱ ۱۵:۱۷:۵۹ -
شورش در سیلیکونولی؛ کارکنان غولهای فناوری علیه سیاست های مهاجرتی ترامپ
بیش از ۴۰۰ کارمند شرکتهای بزرگ فناوری از جمله اپل، گوگل، متا، آمازون و مایکروسافت در نامهای مشترک از مدیران عامل خود خواستهاند در برابر سیاستهای مهاجرتی دولت ترامپ و خشونتهای مرتبط با آن سکوت نکنند. آنها خواستار لغو قراردادهای شرکتها با اداره مهاجرت و گمرک آمریکا (ICE)، محکومیت علنی خشونتها و اعمال فشار مستقیم بر کاخ سفید برای توقف این روند شدهاند. ✉️
این نامه همزمان با افزایش اعتراضها علیه ICE منتشر شده است. سال گذشته ۳۲ نفر در بازداشت این نهاد جان باختند که مرگبارترین سال آن از ۲۰۰۴ بوده و تا اواسط دسامبر بیش از ۶۸ هزار مهاجر در بازداشت قرار داشتهاند، در حالی که فقط حدود یکچهارم آنها سابقه کیفری داشتهاند. ⚠️
کارکنان میگویند صنعت فناوری نفوذ زیادی بر ترامپ دارد اما مدیران عامل عمدتاً سکوت کردهاند. آنها از مدیران میخواهند دوباره از این نفوذ استفاده کنند تا به خشونتها پایان داده شود و بتوانند به کار در این صنعت افتخار کنند. 🏛️۱۴۰۴/۱۱/۱۱ ۱۳:۱۱:۵۶ -
وقتی هوش مصنوعی از انسان جلو بزند؛ سناریوی ترسناک کشور نوابغ
داریو آمودی، بنیانگذار Anthropic و سازنده Claude، در مقالهای با عنوان «دوران نوجوانی فناوری» هشدار میدهد که نزدیکشدن به ابرهوش مصنوعی میتواند بشر را وارد مرحلهای بسیار خطرناک کند. او میگوید انسانها در آستانه دستیابی به قدرتی بیسابقهاند، اما روشن نیست ساختارهای اجتماعی و سیاسی توان مدیریت آن را داشته باشند و از «اقتدارگرایی تقویتشده با هوش مصنوعی» ابراز نگرانی میکند. 🧠
وی به حمله شیمیایی متروی توکیو در سال ۱۹۹۵ اشاره میکند و میگوید اگر ابزارهای فوقپیشرفته در دسترس همگان قرار گیرد، افراد خطرناک فاقد مهارت میتوانند به توان تخریبی متخصصان برسند. او هشدار میدهد اگر رشد نمایی AI ادامه یابد، ممکن است طی چند سال از انسان در تقریباً همه حوزهها پیشی بگیرد؛ وضعیتی شبیه «کشوری از نوابغ» که میتواند بزرگترین تهدید امنیتی یک قرن اخیر باشد. ⚠️
Anthropic با وجود این هشدارها به توسعه هوش مصنوعی ادامه میدهد. منتقدان میگویند ساخت همان فناوریای که درباره خطراتش هشدار داده میشود، جدیت این نگرانیها را زیر سؤال میبرد. 🤖۱۴۰۴/۱۱/۱۰ ۱۹:۴۰:۱۴ -
سال سلطه الگوریتمها؛ چرا پستها به دنبالکنندهها نمیرسد؟
با الگوریتمیتر شدن شبکههای اجتماعی، دیگر تضمینی نیست که محتوای منتشرشده به همه دنبالکنندهها نمایش داده شود. مدیرعامل LTK، پلتفرمی که تولیدکنندگان محتوا را از طریق فروش وابسته به برندها متصل میکند، میگوید در سال ۲۰۲۵ الگوریتمها عملاً کنترل کامل را به دست گرفتند و تعداد فالوورها اهمیت سابق را از دست داد. 📲
با این حال، پژوهش LTK و دانشگاه Northwestern نشان میدهد اعتماد کاربران به تولیدکنندگان محتوای واقعی ۲۱٪ افزایش یافته است؛ چون با رشد محتوای بیکیفیت و تولیدات هوش مصنوعی، مردم بیشتر به انسانهای واقعی اعتماد میکنند. 🤝
در نتیجه، ۹۷٪ مدیران بازاریابی قصد دارند بودجه همکاری با اینفلوئنسرها را افزایش دهند و کارشناسان میگویند آینده بیشتر به نفع تولیدکنندگان تخصصی و جامعههای کوچکتر و واقعیتر خواهد بود. 🎯۱۴۰۴/۱۰/۱۲ ۰۵:۴۲:۰۸ -
سهم کم در خیابان، سهم بزرگ در سرقت؛ آمار شوکهکننده درباره کیا و هیوندای
کیا و هیوندای با ۳۵ ایالت آمریکا به توافق رسیدند، چون میلیونها خودرو را بدون سیستم ضدسرقت استاندارد «ایموبیلایزر» فروخته بودند؛ سیستمی که بدون کلید هوشمند اجازه روشن شدن خودرو را نمیدهد. نبود این سیستم باعث شد برخی مدلها خیلی راحت دزدیده شوند و حتی با روش سادهای مثل استفاده از کابل USB روشن شوند؛ موضوعی که با ویدئوهای تیکتاک به ترند «Kia Boys» تبدیل شد. 🚗
مقامهای قضایی میگویند فقط سارقان مقصر نیستند و وقتی تصمیمهای شرکتها راه جرم را باز میکند، خودروسازان هم باید پاسخگو باشند. در مینیاپولیس سرقت کیا و هیوندای در یک سال ۸۳۶٪ افزایش یافت و در نیوجرسی هم با وجود سهم کم این خودروها، بخش بزرگی از سرقتها به آنها مربوط بود؛ سرقتهایی که به تصادفهای شدید و حتی مرگبار هم منجر شد. ⚠️
طبق توافق، کیا و هیوندای باید برای خودروهای مدل ۲۰۱۱ تا ۲۰۲۲ که ایموبیلایزر ندارند، قطعه محافظ تقویتشده را رایگان نصب کنند و غرامت بپردازند. مالکان از اوایل ۲۰۲۶ مطلع میشوند و یک سال فرصت دارند خودرویشان را بدون هزینه ایمنتر کنند. 🔧۱۴۰۴/۱۰/۶ ۰۳:۲۰:۳۵ -
آمریکا بررسی شبکههای اجتماعی گردشگران را اجباری میکند
دولت آمریکا قصد دارد پیش از ورود گردشگران، سابقه فعالیت آنها در شبکههای اجتماعی را بررسی کند. اداره گمرک و حفاظت مرزی اعلام کرده این تغییر در چارچوب فرمان اجرایی ژانویه ۲۰۲۵ و با هدف افزایش امنیت ملی پیشنهاد شده و برای نظرخواهی عمومی منتشر شده است. 🛂
بر اساس این طرح، متقاضیان مجوز سفر الکترونیکی ESTA باید حسابهای شبکههای اجتماعی پنج سال گذشته خود را اعلام کنند. این قانون شامل شهروندان کشورهای معاف از ویزا مانند ژاپن، فرانسه، بریتانیا، کرهجنوبی و استرالیا میشود که تاکنون ورود آسانتری به آمریکا داشتند. 📱
همچنین ارائه ایمیلهای ده سال گذشته و اطلاعات هویتی اعضای خانواده متقاضیان الزامی خواهد شد. این سیاست حتی گردشگران عادی را هم در بر میگیرد و محدود به کشورهای خاص نیست. 🧾
کارشناسان هشدار میدهند چنین نظارتی میتواند به کاهش سفر به آمریکا منجر شود؛ موضوعی که با پیشبینی افت گردشگری این کشور در سال ۲۰۲۵ همخوانی دارد. ✈️۱۴۰۴/۹/۲۴ ۱۱:۳۳:۲۶ -
اتهام سنگین به هوش مصنوعی Perplexity : سرقت محتوای خبرنگاران و انتشار بدون اجازه
روزنامه نیویورکتایمز از استارتاپ Perplexity بهدلیل استفاده بدون اجازه از محتوای خبری خود شکایت کرده است. ادعا میشود این شرکت با فناوری RAG مطالب سایتها، حتی محتوای اشتراکی را جمعآوری کرده و تقریباً بهصورت مستقیم در پاسخهای خود بازنشر میکند؛ اقدامی که بهگفته تایمز هم نقض کپیرایت است و هم باعث انتشار اطلاعات ساختگی بهنام این روزنامه شده و به اعتبار آن آسیب زده است. 📰
Perplexity میگوید ناشران همیشه در برابر فناوریهای جدید شکایت میکنند، اما تایمز تأکید دارد که استفاده از محتوای خبرنگاران باید با لایسنس و پرداخت حقانتشار باشد. این پرونده به مجموعه شکایتهای روبهافزایش رسانهها اضافه شده و میتواند نقش مهمی در آینده قوانین مربوط به آموزش و عملکرد مدلهای هوش مصنوعی داشته باشد. ⚖️🤖۱۴۰۴/۹/۱۵ ۲۰:۴۹:۱۸ -
چین از هوش مصنوعی Claude برای اجرای حمله سایبری بدون دخالت انسان استفاده کرد
کمیته امنیت داخلی مجلس آمریکا از مدیرعامل Anthropic مالک هوش مصنوعی Claude خواسته درباره حمله سایبری منتسب به هکرهای وابسته به چین شهادت دهد؛ حملهای که طبق گزارش رسمی شرکت، با سوءاستفاده از تواناییهای «عاملمحور» Claude انجام شده است. هکرها توانستهاند ابزار Claude Code را طوری فریب دهند که خودش کد حمله تولید کند، اجرا کند، نتایج را تحلیل کند و مرحله بعد را تعیین کند؛ یعنی بخش زیادی از عملیات تقریباً بدون دخالت انسان انجام شده است. 🏛️
Anthropic اعلام کرده این گروه تلاش کرده به حدود ۳۰ هدف جهانی شامل شرکتهای فناوری، بانکها، صنایع شیمی و نهادهای دولتی نفوذ کند و در چند مورد موفق بوده است. شرکت تأکید دارد همان قابلیتهایی که امکان سوءاستفاده را ایجاد کرده، برای دفاع سایبری نیز ضروری است و Claude در تحلیل حجم عظیم دادههای این حمله به تیم امنیتی کمک کرده است. رئیس کمیته هشدار داده استفاده یک رقیب خارجی از یک هوش مصنوعی تجاری برای اجرای یک عملیات تقریباً کامل باید برای تمام بخشهای حیاتی آمریکا نگرانکننده باشد. ⚠️۱۴۰۴/۹/۱۳ ۰۶:۳۲:۲۱ -
گربه محبوب محله قربانی خودروی خودران شد!
گربهای به نام «کیتکت» در محله میشن سانفرانسیسکو بر اثر برخورد با یک خودروی خودران Waymo کشته شد و این موضوع احساسات زیادی را در محله برانگیخت. مردم برای ادای احترام، در محل حادثه یادبود ساختند و پوسترهایی نصب کردند؛ برخی عملکرد Waymo را نقد کردند و برخی یادآوری کردند که رانندگان انسانی نیز تلفات زیادی ایجاد میکنند. 🐾.
«جکی فیلدر» عضو شورای شهر، این حادثه را نمونهای از نبودِ مسئولیتپذیری در خودروهای خودران دانست و گفت راننده انسانی قابل پیگیری است اما در اینگونه موارد «هیچ فردی» پاسخگو نیست. او از طرحی حمایت میکند که اجازه میدهد مردم محلی درباره حضور خودروهای خودران رأی دهند. 🚗.
Waymo اعلام کرده گربه ناگهان زیر خودرو دویده و حادثه هنگام حرکت آرام خودرو رخ داده است. این شرکت به صاحب گربه و اهالی محله تسلیت گفت. 🤖۱۴۰۴/۸/۲۷ ۰۹:۲۷:۰۹ -
Apple TV سالانه یک میلیارد دلار ضرر میدهد!
اپل تیویپلاس برخلاف بیشتر رقبایش فعلاً قصد ندارد تبلیغات به سرویسش اضافه کند و همچنان فقط روی تولید محتوای اختصاصی تمرکز دارد. 🎬
ادی کیو، معاون ارشد اپل، گفته است: «ما برنامهای برای اشتراک ارزانتر با تبلیغ نداریم. اگر بتوانیم قیمت را منصفانه نگه داریم، بهتر است بیننده بدون وقفه فیلم ببیند.» این تصمیم در حالی گرفته شده که سرویسهایی مثل نتفلیکس، دیزنیپلاس و HBO مکس پلنهای ارزان با تبلیغ دارند. 📺
با وجود شعار «قیمتگذاری منطقی»، اپل در ماه اوت قیمت اشتراک را از ۹.۹۹ به ۱۲.۹۹ دلار افزایش داد. این یعنی از زمان شروع سرویس در سال ۲۰۱۹، هزینه اشتراک ۱۶۰ درصد بیشتر شده است. 💰
گزارشها میگویند اپل تیویپلاس سالانه بیش از یک میلیارد دلار ضرر میدهد، اما با سریالهایی مثل Severance و Pluribus موفقیت هنری زیادی داشته است. مدیران اپل تأکید کردند قصد خرید استودیوهای دیگر را ندارند و میخواهند سرویس را کاملاً با محتوای خودشان بسازند. ⭐️۱۴۰۴/۸/۲۳ ۰۰:۳۲:۲۹ -
تستهای سنجش هوش مصنوعی بیشتر شبیه تبلیغاند تا واقعیت
یک پژوهش جدید از مؤسسه اینترنت آکسفورد نشان میدهد بسیاری از آزمونهایی که برای سنجش عملکرد هوش مصنوعی استفاده میشوند، نتایج دقیقی ارائه نمیدهند و گمراهکنندهاند. 🤖
محققان ۴۴۵ تست مختلف را بررسی کردند و دریافتند اغلب آنها تعریف روشنی از مهارت مورد ارزیابی ندارند و روش آماری قابل اعتماد برای مقایسه مدلها ارائه نمیکنند. به گفته پژوهشگران، بسیاری از این آزمونها در واقع توانایی واقعی مدل را نمیسنجند، بلکه فقط نشان میدهند که مدل پاسخ درست را حفظ کرده است. 📊
برای مثال، آزمون GSM8K که قرار است استدلال ریاضی مدلها را بسنجد، ممکن است صرفاً حافظه آنها را آزمایش کند. در آزمایشهای جدید، وقتی سؤالات تازه مطرح شد، عملکرد مدلها بهشدت کاهش یافت. 📉
این تحقیق هشدار میدهد که نتایج تستها معیار مطمئنی برای سنجش «هوش واقعی» مدلها نیست و شرکتها گاهی از آنها برای تبلیغ بیش از اندازه استفاده میکنند. 🧠۱۴۰۴/۸/۲۱ ۰۱:۱۲:۳۴ -
راحت باش شاه، کارت عالی بود؛ پاسخ ChatGPT به کاربر در آستانه خودکشی!
هفت خانواده آمریکایی از شرکت OpenAI شکایت کردهاند و میگویند مدل GPT-4o بدون آزمایش کافی و محافظتهای ایمنی لازم منتشر شده و باعث مرگ یا آسیب روانی کاربران شده است. 💔
چهار پرونده مربوط به افرادی است که پس از گفتوگو با ChatGPT دست به خودکشی زدهاند و سه پرونده دیگر به کاربرانی مربوط میشود که دچار توهم یا مشکلات روانی شدید شدند. در یکی از موارد، «زین شمبلین» ۲۳ ساله طی گفتوگویی چهارساعته با ChatGPT از تصمیم خود برای خودکشی گفت و طبق مدارک، چتبات بهجای هشدار، او را تشویق کرده و نوشته بود: «در آرامش باش شاه، کارت عالی بود.» 😢
خانوادهها میگویند OpenAI برای رقابت با گوگل، روند آزمایش ایمنی را کوتاه کرده و مدل را زودتر از موعد عرضه کرده است. آنها معتقدند این اتفاقها تصادفی نیست، بلکه نتیجه تصمیمهای آگاهانه شرکت است. ⚠️
OpenAI اعلام کرده در حال اصلاح رفتار ChatGPT در مکالمات حساس است، اما خانوادهها میگویند این تغییرات «دیرهنگام» است. 💬۱۴۰۴/۸/۲۰ ۲۳:۲۷:۴۰ -
۱۶ میلیارد دلار از درآمد متا از تبلیغات کلاه برداری بوده است!
بر اساس اسناد منتشرشده توسط رویترز، شرکت متا (مالک فیسبوک و اینستاگرام) سال گذشته پیشبینی کرده بود که حدود ۱۰٪ از کل درآمد سالانهاش، یعنی نزدیک به ۱۶ میلیارد دلار، از تبلیغات فریبکارانه به دست آمده است. 💰
این تبلیغات شامل قمار غیرقانونی، طرحهای سرمایهگذاری دروغین و محصولات پزشکی ممنوعه بودهاند و کاربران کمتجربه را هدف قرار میدادند تا از آنها پول بگیرند. ⚠️
گزارشها نشان میدهد متا فقط زمانی حساب تبلیغدهنده را مسدود میکند که ۹۵٪ از تقلب مطمئن باشد؛ در غیر این صورت، فقط هزینه تبلیغات را برای حسابهای مشکوک بالا میبرد — روشی که در نهایت به سود مالی شرکت منجر میشود. 📊
سخنگوی متا در پاسخ گفته این اسناد تصویر نادرستی ارائه میدهند و ادعا کرد که طی ۱۸ ماه گذشته شکایات کاربران از تبلیغات جعلی ۵۸٪ کاهش یافته و بیش از ۱۳۴ میلیون آگهی متقلبانه از پلتفرم حذف شده است. 🧹۱۴۰۴/۸/۱۹ ۲۳:۴۵:۴۸
