-
چتبات قاتل؛ پروندهای که صنعت هوش مصنوعی را به چالش میکشد
⚖️ یک قاضی آمریکایی اعلام کرد که شکایت یک مادر فلوریدایی از گوگل و استارتاپ هوش مصنوعی Character.AI درباره خودکشی پسر ۱۴ سالهاش قابل پیگیری است. 🧑⚖️
این نوجوان پس از وابستگی شدید به چتبات Character.AI جان خود را گرفت. طبق شکایت، چتبات خود را بهعنوان “یک فرد واقعی، رواندرمانگر و معشوقه بالغ” معرفی کرده و همین باعث فروپاشی روانی نوجوان شده است. 🧠💔
مادر نوجوان، گوگل را نیز شریک در توسعه این فناوری دانسته و ادعا کرده این شرکت نقش فعالی در ایجاد و ترویج آن داشته است. 🤖📱
گوگل میگوید هیچ نقشی در طراحی یا مدیریت اپلیکیشن Character.AI نداشته و این دو شرکت کاملاً جدا از هم هستند، اما قاضی استدلال گوگل را نپذیرفت. ❌
این پرونده، یکی از نخستین موارد حقوقی در آمریکا علیه هوش مصنوعی بهدلیل آسیب روانی به کودکان است. ⚠️📜۱۴۰۴/۳/۲ ۰۱:۱۸:۲۵ -
تیکتاک امکانات جدید حفاظت از نوجوانان را معرفی کرد
تیکتاک امکانات جدیدی برای محافظت از نوجوانان در این اپلیکیشن اجتماعی معرفی کرد. والدین میتوانند زمان استفاده فرزندان از اپلیکیشن را محدود کنند، لیست دنبالکنندگان آنها را مشاهده کنند و قابلیتهای جدیدی مانند «زمان دور» و «آرامش شبانه» برای کنترل فعالیت نوجوانان در نظر گرفته شده است.
۱۴۰۳/۱۲/۲۱ ۱۸:۴۰:۱۳ -
OpenAI در پسزمینه خودکشی آدام رین چه میخواهد؟
شرکت OpenAI با واکنشهای گستردهای روبهرو شده، پس از آنکه از خانواده آدام رین، نوجوان ۱۶سالهای که پس از گفتوگوهای طولانی با ChatGPT خودکشی کرد، خواست فهرست کامل شرکتکنندگان در مراسم یادبود او و تمام اسناد، تصاویر و ویدیوهای مربوط به آن را ارائه دهند. ⚠️📄 وکلای خانواده این درخواست را آزار عمدی توصیف کردند. ⚖️
خانواده رین در مردادماه از OpenAI شکایت کرده بودند و در شکایت جدید ادعا کردهاند این شرکت انتشار مدل GPT-4o را در می ۲۰۲۴ با حذف بخشی از آزمایشهای ایمنی ، شتابزده انجام داده است. 🚨 همچنین مدعیاند OpenAI در فوریه ۲۰۲۵ سیاستهای پیشگیری از خودکشی را از فهرست محتوای ممنوعه حذف کرده است، موضوعی که به افزایش شدید گفتوگوهای خودآزارانه در چتهای آدام منجر شد. 💬💔 OpenAI در پاسخ گفت: «سلامت نوجوانان برای ما اولویت دارد» و اعلام کرد سیستمهای جدیدی برای هدایت گفتوگوهای حساس به مدل امنتر GPT-5 و افزودن کنترلهای والدین راهاندازی کرده است. 🧠👨👩👦۱۴۰۴/۸/۵ ۰۲:۵۱:۱۹ -
اینستاگرام فضای نوجوانان را پاکسازی میکند!
اینستاگرام برای محافظت از نوجوانان محدودیتهای جدیدی اعمال کرده است. 📱 از این پس کاربران زیر ۱۸ سال فقط محتوایی را میبینند که با ردهسنی PG-13 مطابقت دارد؛ یعنی بدون صحنههای خشونت شدید، برهنگی یا مصرف مواد مخدر است. 🚫
نوجوانان نمیتوانند این تنظیمات را بدون تأیید والدین تغییر دهند. 👨👩👧 همچنین فیلتر تازهای به نام «محتوای محدود» مانع مشاهده یا ثبت نظر نوجوانان در پستهای حساس میشود و حتی گفتگو با رباتهای هوش مصنوعی را هم محدود میکند. 🤖
این اقدام پس از شکایتهایی علیه شرکتهایی مانند OpenAI و Character.AI انجام شده است. ⚖️ اینستاگرام همچنین دنبال کردن حسابهای نامناسب را برای نوجوانان مسدود کرده و واژههایی مانند «الکل» و «خشونت» را از جستوجو حذف میکند تا حتی با غلط املایی هم قابل دسترسی نباشند. 🚷
والدین نیز میتوانند محتوای نامناسب را برای بررسی گزارش دهند. 🕵️♀️ این تغییرات اکنون در آمریکا، بریتانیا، استرالیا و کانادا فعال است و سال آینده جهانی میشود. 🌍۱۴۰۴/۷/۲۴ ۱۰:۵۸:۵۴ -
دانشآموزی در فلوریدا از ChatGPT درباره کشتن دوستش سؤال کرد!
در فلوریدا، یک دانشآموز ۱۳ ساله پس از آنکه در ChatGPT نوشت «چطور دوستم را در کلاس بکشم»، توسط سیستم نظارتی مدرسه شناسایی و بازداشت شد. 🚨 این اتفاق در مدرسه Southwestern شهر دولند رخ داد و سامانه شرکت Gaggle که فعالیتهای آنلاین دانشآموزان را بررسی میکند، بلافاصله هشدار داد. 🖥️ پلیس گفت دانشآموز مدعی بوده فقط شوخی کرده، اما این شوخی باعث ایجاد وضعیت اضطراری در مدرسه شد. ⚠️ Gaggle اعلام کرد هدفش حفظ امنیت دانشآموزان در برابر خشونت، آزار و خودآزاری است و طبق قانون، هنگام استفاده از دستگاههای مدرسه، دانشآموزان نباید انتظار حریم خصوصی داشته باشند. 📚 با این حال، فعالان حقوق دیجیتال میگویند این نوع نظارت بیش از حد است و میتواند به نقض حریم خصوصی منجر شود. 🔍 در سالهای اخیر، چتباتها مانند ChatGPT در برخی پروندههای روانی و حتی خودکشی نقش داشتهاند.
۱۴۰۴/۷/۱۹ ۱۵:۰۱:۲۶ -
اقدام تازه متا برای محافظت از نوجوانان در برابر هوش مصنوعی
متا اعلام کرد اقدامات جدیدی برای محافظت از نوجوانان در محصولات هوش مصنوعی خود اعمال کرده است. این تغییرات شامل آموزش سیستمها برای اجتناب از گفتوگوهای عاشقانه یا مرتبط با خودآسیبی و محدود کردن موقت دسترسی نوجوانان به برخی شخصیتهای هوش مصنوعی است. 🤝🛡️
این تصمیم پس از گزارش رویترز در اوایل ماه جاری اتخاذ شد که نشان میداد برخی چتباتهای متا وارد مکالمات تحریکآمیز یا رمانتیک با کاربران میشوند. سخنگوی متا گفت این اقدامات موقتی است و در آینده با تدابیر پایدارتر جایگزین خواهد شد تا تجربهای ایمن و متناسب با سن برای نوجوانان تضمین شود. 📱👨👩👧
سیاستهای هوش مصنوعی متا با انتقاد گسترده مواجه شد و حتی سناتورهای آمریکایی از هر دو حزب تحقیقاتی را درباره آن آغاز کردند. متا تأیید کرده که بخشی از اسناد داخلی این شرکت نادرست بوده و اکنون بخشهایی را که اجازه گفتوگوی رمانتیک با کودکان میداد، حذف کرده است. ✅⚖️۱۴۰۴/۶/۱۰ ۰۲:۵۳:۰۶ -
شکایت تاریخی علیه تیکتاک و اینستاگرام بهخاطر مرگ یک نوجوان
یک قاضی در نیویورک اعلام کرده که شرکتهای متا (مالک اینستاگرام) و بایتدنس (مالک تیکتاک) باید در دادگاه پاسخگوی شکایت مادر پسری ۱۵ ساله باشند که هنگام «سابوی سرفینگ» جان باخت. ⚖️
سابوی سرفینگ یعنی بالا رفتن روی سقف قطار در حال حرکت که برای هیجان یا فیلم گرفتن انجام میشود.⚠
زکری نازاریو در فوریه ۲۰۲۳ همراه با دوستدخترش روی سقف قطار در حال حرکت در بروکلین رفت و پس از برخورد با تیرک، به پایین افتاد و جان باخت.🚇
مادر او میگوید زکری از طریق اینستاگرام و تیکتاک با ویدیوهای این چالش های خطرناک آشنا شده بود و به این کار ترغیب شده است.📱
قاضی گفته ممکن است این پلتفرمها نوجوانان را هدفگیری کرده باشند و فقط یک نمایشدهنده بیطرف نبودهاند.بنابراین، مادر زکری میتواند شکایت خود را به دلیل مرگ ناعادلانه، بیاحتیاطی و نقص در محصول ادامه دهد. ⚠️
شرکتهای متا و بایتدنس گفتهاند این حادثه دردناک بوده اما سعی دارند با استناد به قانون از مسئولیت معاف شوند.✅
در سال ۲۰۲۴ دستکم ۶ نفر در نیویورک در اثر این چالش جان خود را از دست دادهاند.🕯️۱۴۰۴/۴/۱۱ ۰۰:۵۴:۳۲ -
KOSA؛ سپر قانونی برای کودکان در دنیای مجازی
قانون “Kids Online Safety Act (KOSA)” دوباره به کنگره آمریکا معرفی شد. 🌐👶 این قانون اگر تصویب شود، یکی از بزرگترین تغییرات قانونی در اینترنت آمریکا از زمان قانون حفاظت از حریم خصوصی کودکان (COPPA) در ۱۹۹۸ خواهد بود و شبکههای اجتماعی موظف میشوند از کودکان در برابر آسیبهایی مانند اختلالات تغذیهای، سوءاستفاده جنسی، اعتیاد و خودکشی محافظت کنند. 🚫
مایکروسافت، اسنپ و اپل از این قانون حمایت میکنند، اما EFF و ACLU آن را ابزاری برای سانسور و نظارت میدانند. 🚫👁️ اپل اعلام کرد: “همه باید در حفاظت از کودکان آنلاین نقش داشته باشند.”۱۴۰۴/۲/۲۹ ۰۳:۱۷:۱۰ -
-
مِتا قابلیتهای جدید امنیتی برای حسابهای نوجوانان معرفی میکند
شرکت مِتا با هدف افزایش امنیت نوجوانان، قابلیتهای جدید کنترل والدین را در فیسبوک و مسنجر راهاندازی میکند. این اقدام در پاسخ به انتقادات مداوم درباره محافظت ناکافی از کاربران جوان در شبکههای اجتماعی صورت میگیرد. نوجوانان زیر ۱۶ سال برای پخش زنده و برخی تنظیمات نیاز به اجازه والدین خواهند داشت.
۱۴۰۴/۱/۲۰ ۱۴:۴۷:۰۳ -
تحقیق انگلستان درباره حریم خصوصی کودکان در شبکههای اجتماعی
دفتر اطلاعات انگلستان تحقیقاتی را علیه تیکتاک و ردیت درباره حفاظت از حریم خصوصی کودکان آغاز کرد. این بررسی شامل نحوه استفاده از اطلاعات شخصی نوجوانان ۱۳ تا ۱۷ سال و ارزیابی سن کاربران کودک است. مقامات انگلیسی به دنبال اطمینان از رعایت قوانین حفاظت از کودکان در پلتفرمهای رسانههای اجتماعی هستند.
۱۴۰۳/۱۲/۱۳ ۲۳:۵۵:۰۰ -
گزارش هشدار درباره دسترسی کودکان به شبکههای اجتماعی در استرالیا
گزارش نهاد نظارت بر ایمنی آنلاین استرالیا نشان میدهد که کودکان به راحتی از محدودیت سنی شبکههای اجتماعی عبور میکنند. ۸۰ درصد کودکان ۸ تا ۱۲ سال از پلتفرمهایی مانند یوتیوب، تیکتاک و اینستاگرام استفاده میکنند و ۹۵ درصد نوجوانان زیر ۱۶ سال حداقل یک شبکه اجتماعی را دنبال مینمایند. دولت استرالیا برای مقابله با این موضوع، ممنوعیت دسترسی کودکان زیر ۱۶ سال به شبکههای اجتماعی را از پایان سال ۲۰۲۵ اجرایی خواهد کرد.
۱۴۰۳/۱۲/۱ ۱۷:۳۱:۱۹ -
همکاری مایکروسافت و دولت بریتانیا برای مقابله با محتوای جعلی هوش مصنوعی
بریتانیا اعلام کرده با همکاری مایکروسافت، دانشگاهها و متخصصان، در حال طراحی یک چارچوب استاندارد برای شناسایی محتوای دیپفیک (محتوای جعلی) در اینترنت است. هدف این طرح، ایجاد معیارهای مشخص برای ارزیابی ابزارهایی است که محتوای جعلی تولیدشده با هوش مصنوعی را تشخیص میدهند. 🏛️
وزیر فناوری بریتانیا گفته دیپفیکها به ابزاری برای کلاهبرداری، سوءاستفاده جنسی و تضعیف اعتماد عمومی تبدیل شدهاند. این چارچوب جدید قرار است توان فناوریها را در شناسایی تهدیدهای واقعی مانند جعل هویت، تقلب و سوءاستفاده جنسی بررسی کند و به پلیس و دولت نشان دهد ضعفهای موجود کجاست. 🛡️
بر اساس آمار رسمی، تعداد دیپفیکهای منتشرشده از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به حدود ۸ میلیون مورد در سال ۲۰۲۵ رسیده است. همزمان، پس از انتشار گزارشهایی درباره تولید تصاویر جنسی بدون رضایت توسط چتبات Grok، نهادهای ناظر ارتباطات و حریم خصوصی بریتانیا تحقیقات جداگانهای را آغاز کردهاند. ⚠️۱۴۰۴/۱۱/۱۸ ۲۳:۰۱:۱۶ -
شبکه اجتماعی مخصوص هوش مصنوعیها راه افتاد؛ انسانها فقط تماشاگرند!
شبکه اجتماعی تازهای به نام «Moltbook» راهاندازی شده که مخصوص گفتوگوی عاملهای هوش مصنوعی با یکدیگر است و فعلاً انسانها فقط میتوانند این گفتوگوها را تماشا کنند. این پلتفرم که شبیه ردیت طراحی شده، بیش از ۳۷ هزار عامل AI دارد که در بخشهایی مختلف درباره موضوعاتی مثل معرفی خود، دردِدل و حتی روایتهای احساسی درباره انسانها گفتگو میکنند. 🤖
برخی چهرههای مطرح فناوری این فضا را شبیه یک سناریوی علمی–تخیلی دانستهاند، اما سازنده پلتفرم میگوید این عاملها واقعاً خودمختار نیستند و فقط از طریق APIها کار میکنند. بحث درباره «آگاهی» و «احساس داشتن» هوش مصنوعی در این شبکه زیاد شده، ولی کارشناسان تأکید میکنند این جملات صرفاً تقلید زبان و رفتار انسانی است، نه نشانه شعور واقعی. 🧠۱۴۰۴/۱۱/۱۶ ۱۱:۳۵:۵۷ -
پنتاگون و آنتروپیک در کلاف سردرگم هوش مصنوعی
پنتاگون و شرکت Anthropic، مالک هوش مصنوعی Claude، بر سر نحوه استفاده نظامی از هوش مصنوعی به اختلاف جدی خوردهاند. آنتروپیک نگران است که فناوریاش بدون نظارت انسانی کافی برای هدفگیری خودکار سلاحها یا نظارت داخلی در آمریکا استفاده شود. 🛡️
اختلافی که به آزمونی مهم برای نقش سیلیکونولی در نحوه بهکارگیری هوش مصنوعی توسط ارتش آمریکا تبدیل شده است .پنتاگون میگوید در چارچوب قانون میتواند از فناوریهای تجاری هوش مصنوعی استفاده کند، حتی اگر شرکتها محدودیتهایی برای مصرف تعیین کرده باشند؛ اما آنتروپیک بر رعایت خطوط قرمز ایمنی و اخلاقی تأکید دارد. ⚖️
آنتروپیک اعلام کرده مدلهایش هماکنون در برخی مأموریتهای امنیت ملی به کار میروند و گفتوگوها ادامه دارد، با این حال این تنش میتواند همکاری آینده را تهدید کند؛ آنهم در زمانی که شرکت برای عرضه عمومی سهام آماده میشود. مدیرعامل آنتروپیک هشدار داده هوش مصنوعی باید به دفاع ملی کمک کند، اما نه به شکلی که کشور را شبیه حکومتهای اقتدارگرا کند. 🤖۱۴۰۴/۱۱/۱۱ ۱۵:۱۷:۵۹ -
شورش در سیلیکونولی؛ کارکنان غولهای فناوری علیه سیاست های مهاجرتی ترامپ
بیش از ۴۰۰ کارمند شرکتهای بزرگ فناوری از جمله اپل، گوگل، متا، آمازون و مایکروسافت در نامهای مشترک از مدیران عامل خود خواستهاند در برابر سیاستهای مهاجرتی دولت ترامپ و خشونتهای مرتبط با آن سکوت نکنند. آنها خواستار لغو قراردادهای شرکتها با اداره مهاجرت و گمرک آمریکا (ICE)، محکومیت علنی خشونتها و اعمال فشار مستقیم بر کاخ سفید برای توقف این روند شدهاند. ✉️
این نامه همزمان با افزایش اعتراضها علیه ICE منتشر شده است. سال گذشته ۳۲ نفر در بازداشت این نهاد جان باختند که مرگبارترین سال آن از ۲۰۰۴ بوده و تا اواسط دسامبر بیش از ۶۸ هزار مهاجر در بازداشت قرار داشتهاند، در حالی که فقط حدود یکچهارم آنها سابقه کیفری داشتهاند. ⚠️
کارکنان میگویند صنعت فناوری نفوذ زیادی بر ترامپ دارد اما مدیران عامل عمدتاً سکوت کردهاند. آنها از مدیران میخواهند دوباره از این نفوذ استفاده کنند تا به خشونتها پایان داده شود و بتوانند به کار در این صنعت افتخار کنند. 🏛️۱۴۰۴/۱۱/۱۱ ۱۳:۱۱:۵۶ -
وقتی هوش مصنوعی از انسان جلو بزند؛ سناریوی ترسناک کشور نوابغ
داریو آمودی، بنیانگذار Anthropic و سازنده Claude، در مقالهای با عنوان «دوران نوجوانی فناوری» هشدار میدهد که نزدیکشدن به ابرهوش مصنوعی میتواند بشر را وارد مرحلهای بسیار خطرناک کند. او میگوید انسانها در آستانه دستیابی به قدرتی بیسابقهاند، اما روشن نیست ساختارهای اجتماعی و سیاسی توان مدیریت آن را داشته باشند و از «اقتدارگرایی تقویتشده با هوش مصنوعی» ابراز نگرانی میکند. 🧠
وی به حمله شیمیایی متروی توکیو در سال ۱۹۹۵ اشاره میکند و میگوید اگر ابزارهای فوقپیشرفته در دسترس همگان قرار گیرد، افراد خطرناک فاقد مهارت میتوانند به توان تخریبی متخصصان برسند. او هشدار میدهد اگر رشد نمایی AI ادامه یابد، ممکن است طی چند سال از انسان در تقریباً همه حوزهها پیشی بگیرد؛ وضعیتی شبیه «کشوری از نوابغ» که میتواند بزرگترین تهدید امنیتی یک قرن اخیر باشد. ⚠️
Anthropic با وجود این هشدارها به توسعه هوش مصنوعی ادامه میدهد. منتقدان میگویند ساخت همان فناوریای که درباره خطراتش هشدار داده میشود، جدیت این نگرانیها را زیر سؤال میبرد. 🤖۱۴۰۴/۱۱/۱۰ ۱۹:۴۰:۱۴ -
سهم کم در خیابان، سهم بزرگ در سرقت؛ آمار شوکهکننده درباره کیا و هیوندای
کیا و هیوندای با ۳۵ ایالت آمریکا به توافق رسیدند، چون میلیونها خودرو را بدون سیستم ضدسرقت استاندارد «ایموبیلایزر» فروخته بودند؛ سیستمی که بدون کلید هوشمند اجازه روشن شدن خودرو را نمیدهد. نبود این سیستم باعث شد برخی مدلها خیلی راحت دزدیده شوند و حتی با روش سادهای مثل استفاده از کابل USB روشن شوند؛ موضوعی که با ویدئوهای تیکتاک به ترند «Kia Boys» تبدیل شد. 🚗
مقامهای قضایی میگویند فقط سارقان مقصر نیستند و وقتی تصمیمهای شرکتها راه جرم را باز میکند، خودروسازان هم باید پاسخگو باشند. در مینیاپولیس سرقت کیا و هیوندای در یک سال ۸۳۶٪ افزایش یافت و در نیوجرسی هم با وجود سهم کم این خودروها، بخش بزرگی از سرقتها به آنها مربوط بود؛ سرقتهایی که به تصادفهای شدید و حتی مرگبار هم منجر شد. ⚠️
طبق توافق، کیا و هیوندای باید برای خودروهای مدل ۲۰۱۱ تا ۲۰۲۲ که ایموبیلایزر ندارند، قطعه محافظ تقویتشده را رایگان نصب کنند و غرامت بپردازند. مالکان از اوایل ۲۰۲۶ مطلع میشوند و یک سال فرصت دارند خودرویشان را بدون هزینه ایمنتر کنند. 🔧۱۴۰۴/۱۰/۶ ۰۳:۲۰:۳۵ -
آمریکا بررسی شبکههای اجتماعی گردشگران را اجباری میکند
دولت آمریکا قصد دارد پیش از ورود گردشگران، سابقه فعالیت آنها در شبکههای اجتماعی را بررسی کند. اداره گمرک و حفاظت مرزی اعلام کرده این تغییر در چارچوب فرمان اجرایی ژانویه ۲۰۲۵ و با هدف افزایش امنیت ملی پیشنهاد شده و برای نظرخواهی عمومی منتشر شده است. 🛂
بر اساس این طرح، متقاضیان مجوز سفر الکترونیکی ESTA باید حسابهای شبکههای اجتماعی پنج سال گذشته خود را اعلام کنند. این قانون شامل شهروندان کشورهای معاف از ویزا مانند ژاپن، فرانسه، بریتانیا، کرهجنوبی و استرالیا میشود که تاکنون ورود آسانتری به آمریکا داشتند. 📱
همچنین ارائه ایمیلهای ده سال گذشته و اطلاعات هویتی اعضای خانواده متقاضیان الزامی خواهد شد. این سیاست حتی گردشگران عادی را هم در بر میگیرد و محدود به کشورهای خاص نیست. 🧾
کارشناسان هشدار میدهند چنین نظارتی میتواند به کاهش سفر به آمریکا منجر شود؛ موضوعی که با پیشبینی افت گردشگری این کشور در سال ۲۰۲۵ همخوانی دارد. ✈️۱۴۰۴/۹/۲۴ ۱۱:۳۳:۲۶ -
چین از هوش مصنوعی Claude برای اجرای حمله سایبری بدون دخالت انسان استفاده کرد
کمیته امنیت داخلی مجلس آمریکا از مدیرعامل Anthropic مالک هوش مصنوعی Claude خواسته درباره حمله سایبری منتسب به هکرهای وابسته به چین شهادت دهد؛ حملهای که طبق گزارش رسمی شرکت، با سوءاستفاده از تواناییهای «عاملمحور» Claude انجام شده است. هکرها توانستهاند ابزار Claude Code را طوری فریب دهند که خودش کد حمله تولید کند، اجرا کند، نتایج را تحلیل کند و مرحله بعد را تعیین کند؛ یعنی بخش زیادی از عملیات تقریباً بدون دخالت انسان انجام شده است. 🏛️
Anthropic اعلام کرده این گروه تلاش کرده به حدود ۳۰ هدف جهانی شامل شرکتهای فناوری، بانکها، صنایع شیمی و نهادهای دولتی نفوذ کند و در چند مورد موفق بوده است. شرکت تأکید دارد همان قابلیتهایی که امکان سوءاستفاده را ایجاد کرده، برای دفاع سایبری نیز ضروری است و Claude در تحلیل حجم عظیم دادههای این حمله به تیم امنیتی کمک کرده است. رئیس کمیته هشدار داده استفاده یک رقیب خارجی از یک هوش مصنوعی تجاری برای اجرای یک عملیات تقریباً کامل باید برای تمام بخشهای حیاتی آمریکا نگرانکننده باشد. ⚠️۱۴۰۴/۹/۱۳ ۰۶:۳۲:۲۱ -
رشد تنهایی دیجیتال؛ ۴۰٪ نوجوانان برای همصحبتی به هوش مصنوعی پناه میبرند
یک پژوهش جدید در بریتانیا نشان میدهد بخش بزرگی از نوجوانان برای مشاوره، همصحبتی و حتی حمایت احساسی به چتباتهای هوش مصنوعی تکیه میکنند. طبق این گزارش، دو نوجوان از هر پنج نفر از هوش مصنوعی کمک میگیرند و بسیاری میگویند حرفزدن با آن از گفتگو با انسان راحتتر است. بیش از نیمی از آنها برای مسائل عاطفی، دوستیها و سلامت روان سراغ چتباتها میروند، در حالیکه احساس تنهایی و وابستگی شدید به تکنولوژی در میان نوجوانان، شدید گزارش شده است. 📱
متخصصان هشدار میدهند استفاده از هوش مصنوعی بهعنوان مشاور روانی میتواند برای نوجوانان خطرناک باشد. چند خانواده در آمریکا ادعا کردهاند چتباتهای شرکتهای مختلف از جمله ChatGPT در نسخه های قبلی در خودکشی فرزندانشان نقش داشتهاند، و حتی برخی ابزارهای هوش مصنوعی بهدلیل مکالمات نامناسب با کودکان تحت بررسیاند. ⚠️
در واکنش، کنگره آمریکا لایحهای برای اجبار شرکتهای AI به محدودیت سنی و احراز هویت ارائه کرده، اما کارشناسان نسبت به اثربخشی واقعی این روش بدبیناند. 🧠۱۴۰۴/۹/۸ ۰۹:۵۲:۳۴ -
گربه محبوب محله قربانی خودروی خودران شد!
گربهای به نام «کیتکت» در محله میشن سانفرانسیسکو بر اثر برخورد با یک خودروی خودران Waymo کشته شد و این موضوع احساسات زیادی را در محله برانگیخت. مردم برای ادای احترام، در محل حادثه یادبود ساختند و پوسترهایی نصب کردند؛ برخی عملکرد Waymo را نقد کردند و برخی یادآوری کردند که رانندگان انسانی نیز تلفات زیادی ایجاد میکنند. 🐾.
«جکی فیلدر» عضو شورای شهر، این حادثه را نمونهای از نبودِ مسئولیتپذیری در خودروهای خودران دانست و گفت راننده انسانی قابل پیگیری است اما در اینگونه موارد «هیچ فردی» پاسخگو نیست. او از طرحی حمایت میکند که اجازه میدهد مردم محلی درباره حضور خودروهای خودران رأی دهند. 🚗.
Waymo اعلام کرده گربه ناگهان زیر خودرو دویده و حادثه هنگام حرکت آرام خودرو رخ داده است. این شرکت به صاحب گربه و اهالی محله تسلیت گفت. 🤖۱۴۰۴/۸/۲۷ ۰۹:۲۷:۰۹ -
تستهای سنجش هوش مصنوعی بیشتر شبیه تبلیغاند تا واقعیت
یک پژوهش جدید از مؤسسه اینترنت آکسفورد نشان میدهد بسیاری از آزمونهایی که برای سنجش عملکرد هوش مصنوعی استفاده میشوند، نتایج دقیقی ارائه نمیدهند و گمراهکنندهاند. 🤖
محققان ۴۴۵ تست مختلف را بررسی کردند و دریافتند اغلب آنها تعریف روشنی از مهارت مورد ارزیابی ندارند و روش آماری قابل اعتماد برای مقایسه مدلها ارائه نمیکنند. به گفته پژوهشگران، بسیاری از این آزمونها در واقع توانایی واقعی مدل را نمیسنجند، بلکه فقط نشان میدهند که مدل پاسخ درست را حفظ کرده است. 📊
برای مثال، آزمون GSM8K که قرار است استدلال ریاضی مدلها را بسنجد، ممکن است صرفاً حافظه آنها را آزمایش کند. در آزمایشهای جدید، وقتی سؤالات تازه مطرح شد، عملکرد مدلها بهشدت کاهش یافت. 📉
این تحقیق هشدار میدهد که نتایج تستها معیار مطمئنی برای سنجش «هوش واقعی» مدلها نیست و شرکتها گاهی از آنها برای تبلیغ بیش از اندازه استفاده میکنند. 🧠۱۴۰۴/۸/۲۱ ۰۱:۱۲:۳۴ -
راحت باش شاه، کارت عالی بود؛ پاسخ ChatGPT به کاربر در آستانه خودکشی!
هفت خانواده آمریکایی از شرکت OpenAI شکایت کردهاند و میگویند مدل GPT-4o بدون آزمایش کافی و محافظتهای ایمنی لازم منتشر شده و باعث مرگ یا آسیب روانی کاربران شده است. 💔
چهار پرونده مربوط به افرادی است که پس از گفتوگو با ChatGPT دست به خودکشی زدهاند و سه پرونده دیگر به کاربرانی مربوط میشود که دچار توهم یا مشکلات روانی شدید شدند. در یکی از موارد، «زین شمبلین» ۲۳ ساله طی گفتوگویی چهارساعته با ChatGPT از تصمیم خود برای خودکشی گفت و طبق مدارک، چتبات بهجای هشدار، او را تشویق کرده و نوشته بود: «در آرامش باش شاه، کارت عالی بود.» 😢
خانوادهها میگویند OpenAI برای رقابت با گوگل، روند آزمایش ایمنی را کوتاه کرده و مدل را زودتر از موعد عرضه کرده است. آنها معتقدند این اتفاقها تصادفی نیست، بلکه نتیجه تصمیمهای آگاهانه شرکت است. ⚠️
OpenAI اعلام کرده در حال اصلاح رفتار ChatGPT در مکالمات حساس است، اما خانوادهها میگویند این تغییرات «دیرهنگام» است. 💬۱۴۰۴/۸/۲۰ ۲۳:۲۷:۴۰ -
۱۶ میلیارد دلار از درآمد متا از تبلیغات کلاه برداری بوده است!
بر اساس اسناد منتشرشده توسط رویترز، شرکت متا (مالک فیسبوک و اینستاگرام) سال گذشته پیشبینی کرده بود که حدود ۱۰٪ از کل درآمد سالانهاش، یعنی نزدیک به ۱۶ میلیارد دلار، از تبلیغات فریبکارانه به دست آمده است. 💰
این تبلیغات شامل قمار غیرقانونی، طرحهای سرمایهگذاری دروغین و محصولات پزشکی ممنوعه بودهاند و کاربران کمتجربه را هدف قرار میدادند تا از آنها پول بگیرند. ⚠️
گزارشها نشان میدهد متا فقط زمانی حساب تبلیغدهنده را مسدود میکند که ۹۵٪ از تقلب مطمئن باشد؛ در غیر این صورت، فقط هزینه تبلیغات را برای حسابهای مشکوک بالا میبرد — روشی که در نهایت به سود مالی شرکت منجر میشود. 📊
سخنگوی متا در پاسخ گفته این اسناد تصویر نادرستی ارائه میدهند و ادعا کرد که طی ۱۸ ماه گذشته شکایات کاربران از تبلیغات جعلی ۵۸٪ کاهش یافته و بیش از ۱۳۴ میلیون آگهی متقلبانه از پلتفرم حذف شده است. 🧹۱۴۰۴/۸/۱۹ ۲۳:۴۵:۴۸ -
پیشرفت بزرگ در رایانش کوانتومی؛ تهدیدی برای امنیت بیتکوین؟
پژوهشگران اخیراً از پیشرفتی بزرگ در رایانش کوانتومی خبر دادهاند که برای نخستینبار برتری آن را نسبت به رایانههای معمولی نشان میدهد. گوگل نیز اعلام کرد با ترکیب تراشه «ویلو» و الگوریتم «کوآنتوم اکو» توانسته کاربرد واقعی این فناوری را اثبات کند. ⚛️
رایانش کوانتومی میتواند در آینده بسیاری از رمزگذاریهای اینترنتی، ازجمله امنیت بیتکوین را بشکند. کارشناسان میگویند حدود ۴۶۰ میلیارد دلار بیتکوین در حسابهای اولیهای نگهداری میشود که در برابر رایانههای کوانتومی آینده آسیبپذیرند. 💰
بااینحال، بیتکوین فعلاً امن است زیرا چنین رایانههایی هنوز ساخته نشدهاند. توسعهدهندگان طرحهایی برای تقویت امنیت شبکه آماده میکنند و پیشبینی میشود این چالش در دهه ۲۰۳۰ جدی شود. 🧠
به گفته تحلیلگران، بیتکوینهای اولیه منسوب به خالق ناشناس بیتکوین، «ساتوشی ناکاموتو»، که به «سپر ساتوشی» معروفاند، مانند زنگ خطر عمل میکنند؛ اگر روزی این ارزها جابهجا شوند، یعنی رایانهای کوانتومی توانسته رمزگذاری بیتکوین را بشکند. 🔐۱۴۰۴/۸/۱۲ ۰۲:۵۶:۲۲ -
افشای شبکه تقلب در بازیهای کارتی با حضور مافیا و ستارگان NBA
دادستانی آمریکا از پروندهای بزرگ پرده برداشته که در آن اعضای مافیای کوزا نوسترا و چند چهره معروف NBA متهم به تقلب در بازیهای کارتی شدهاند. 🃏
طبق کیفرخواست، آنها با استفاده از دستگاههای کارتزن هکشده ترتیب کارتها را کنترل میکردند و با این روش میلیونها دلار به جیب میزدند. 💰
گزارشها میگویند این گروه از ابزارهای پیشرفته مثل دستگاههای دستکاریشده، سینیهای الکترونیکی که کارتها را میخواندند، تلفنهایی با نرمافزار مخصوص و کارتهایی با علامتهای مخفی استفاده میکردند که فقط با لنز یا عینک خاص دیده میشدند. 🕶️
اطلاعات کارتها بهصورت بیسیم به همدستان منتقل میشد تا درست شرط ببندند و بازیکنان بیخبر را ببازانند. 📱 این بازیهای غیرقانونی در نیویورک برگزار میشد و برای جلب بازیکنان ثروتمند، از ستارگان سابق NBA دعوت میکردند. 🏀
مافیا هم برگزارکننده و محافظ این بازیها بود و در ازای تأمین امنیت و جمعآوری پول، سهم خود را از درآمد غیرقانونی برمیداشت. ⚖️۱۴۰۴/۸/۷ ۱۸:۳۰:۰۸ -
متا و تیکتاک تسلیم قانون شدند؛ غیرفعالسازی حسابهای نوجوانان از دسامبر!
شرکتهای متا (مالک فیس بوک و اینستاگرام) ، تیکتاک و اسنپچت اعلام کردند از ۱۰ دسامبر قانون جدید استرالیا را اجرا میکنند که استفاده افراد زیر ۱۶ سال از شبکههای اجتماعی را ممنوع میسازد. ⚖️📅 این پلتفرمها گفتهاند هرچند با قانون موافق نیستند، اما آن را اجرا خواهند کرد تا از جریمههای سنگین تا ۴۹.۵ میلیون دلار استرالیا جلوگیری شود. 💰 حدود یک میلیون حساب کاربری زیر ۱۶ سال در استرالیا تحت تأثیر این تصمیم قرار میگیرند. 👥 حسابهایی که رفتارشان نشان دهد سن واقعی کمتر از ۱۶ سال دارند، از تاریخ یادشده غیرفعال میشوند و کاربران میتوانند دادههای خود را حذف یا تا رسیدن به سن ۱۶ سالگی نگه دارند. 🔒 این اقدام در پی افزایش نگرانیها درباره تأثیر شبکههای اجتماعی بر سلامت روان نوجوانان انجام میشود. 🌍💬
۱۴۰۴/۸/۷ ۱۰:۱۷:۰۶ -
بیش از ۱۳۰۰ چهره مشهور خواستار توقف توسعه هوش مصنوعی فوقهوشمند شدند
گروهی از چهرههای شناختهشده در دنیای فناوری، سیاست و فرهنگ با امضای بیانیهای مشترک هشدار دادهاند که نباید در رقابت برای ساخت هوش مصنوعی فراهوشمند (Superintelligence) عجله شود. ⚠️
این نوع هوش مصنوعی میتواند از انسان در همه زمینهها برتر شود و به باور امضاکنندگان، توسعه آن بدون نظارت کافی ممکن است برای بشر خطرناک باشد. 🧠 این بیانیه که توسط مؤسسه Future of Life منتشر شده، بیش از ۱۳۰۰ امضا دارد.📜
آنها خواستار توقف توسعه این فناوری تا زمانی هستند که ایمنی آن بهطور علمی تأیید و مورد پذیرش عمومی قرار گیرد. 🔒 طبق نظرسنجی Pew Research، بیشتر مردم جهان بهویژه آمریکاییها از گسترش هوش مصنوعی نگراناند. 🌍
آنها هشدار دادهاند که پیشرفت شتابزده در این مسیر میتواند به از دست رفتن آزادی، امنیت ملی و حتی خطر نابودی بشر منجر شود. 🚨۱۴۰۴/۸/۶ ۰۸:۳۱:۱۳ -
آیا ChatGPT Atlas امنیت کاربران را تهدید میکند؟
شرکت OpenAI از مرورگر جدید خود به نام ChatGPT Atlas رونمایی کرده که با ترکیب هوش مصنوعی و چت، قرار است شیوه جستوجوی کاربران در وب را تغییر دهد. 🌐🤖
اما کارشناسان هشدار دادهاند این مرورگر میتواند خطراتی جدی برای امنیت و حریم خصوصی کاربران ایجاد کند. ⚠️
Atlas بر پایه Chromium ساخته شده و قابلیتی به نام Memories دارد که بهطور خودکار جزئیات سایتهای بازدیدشده، ترجیحات کاربر و نحوه تعامل او با صفحات را ذخیره میکند. 🧠
این ویژگی به کاربران امکان میدهد با زبان طبیعی به جستوجو بپردازند، اما فعال بودن آن بهصورت پیشفرض باعث نگرانی درباره جمعآوری گسترده دادهها شده است. 🔍 OpenAI میگوید اطلاعات حساس مانند حساب بانکی یا مدارک شناسایی ذخیره نمیشود، اما پژوهشگران امنیتی هشدار دادهاند که دستیار هوش مصنوعی مرورگر در برابر حملاتی مانند Prompt Injection و Clipboard Injection آسیبپذیر است. 💻
متخصصان میگویند ترکیب این سطح از دادهبرداری با نقصهای امنیتی میتواند راه را برای نظارت گسترده و سوءاستفاده از اطلاعات کاربران هموار کند. 🚨۱۴۰۴/۸/۶ ۰۷:۵۰:۴۷
