-
دولت هند: همه ویدیوهای ساختهشده با هوش مصنوعی باید برچسب بخورند!
دولت هند قوانین جدیدی را برای شرکتهای هوش مصنوعی و شبکههای اجتماعی پیشنهاد کرده تا با گسترش سریع دیپفیکها در فضای آنلاین مقابله کند. ⚠️
دیپفیک به ویدیو یا صدایی گفته میشود که با استفاده از هوش مصنوعی ساخته میشود و ظاهر یا صدای افراد را بهصورت جعلی بازسازی میکند. 🎭
🧠 طبق این طرح، تمام محتوای تولیدشده با هوش مصنوعی باید بهطور واضح برچسبگذاری شود و کاربران شبکههای اجتماعی موظفاند هنگام بارگذاری ویدیو یا تصویر دیپفیک، آن را بهعنوان محتوای ساختگی اعلام کنند. 📸🔍
وزارت فناوری اطلاعات هند اعلام کرد هدف از این اقدام، جلوگیری از سوءاستفاده از هوش مصنوعی در انتخابات، انتشار اخبار جعلی و جعل هویت افراد است. 🗳️🚫
هند با نزدیک به یک میلیارد کاربر اینترنت، نگران است که انتشار چنین محتواهایی باعث تنشهای قومی، مذهبی یا بیثباتی اجتماعی شود. 🌍🔥۱۴۰۴/۸/۲ ۰۹:۴۶:۴۳ -
سازمان ملل: ابزارهای پیشرفته برای مبارزه با دیپفیکها ضروری است
سازمان مخابراتی سازمان ملل (ITU) در گزارشی در نشست «AI for Good» خواستار استفاده از ابزارهای پیشرفته برای شناسایی و مقابله با محتوای جعلی و دیپفیک شد. این گزارش هشدار میدهد که محتوای جعلی تولیدشده با هوش مصنوعی، بهویژه در قالب تصویر، ویدیو و صدا، میتواند تهدیدی جدی برای انتخابات و امنیت مالی باشد. ✅
ITU پیشنهاد کرده شبکههای اجتماعی پیش از انتشار محتوا از ابزارهای راستیآزمایی دیجیتال استفاده کنند تا اعتبار تصاویر و ویدیوها را تأیید کنند. 📱
دکتر فرزانه بدیعی، پژوهشگر ایرانی و بنیانگذار مؤسسه Digital Medusa، در این نشست تأکید کرد که نبود یک نهاد بینالمللی هماهنگ برای مقابله با محتوای دستکاریشده، راه را برای سوءاستفادههای گسترده باز گذاشته است. او خواستار استانداردهای جهانی و هماهنگ در این حوزه شد. 🌐
این در حالی است که شرکتهایی چون Adobe نیز بر اهمیت شناسایی منبع اصلی محتوا تأکید کردند تا کاربران بتوانند بهتر به اصالت تصاویر و ویدیوها اعتماد کنند. 🎥۱۴۰۴/۴/۲۳ ۰۲:۲۳:۳۵ -
همکاری مایکروسافت و دولت بریتانیا برای مقابله با محتوای جعلی هوش مصنوعی
بریتانیا اعلام کرده با همکاری مایکروسافت، دانشگاهها و متخصصان، در حال طراحی یک چارچوب استاندارد برای شناسایی محتوای دیپفیک (محتوای جعلی) در اینترنت است. هدف این طرح، ایجاد معیارهای مشخص برای ارزیابی ابزارهایی است که محتوای جعلی تولیدشده با هوش مصنوعی را تشخیص میدهند. 🏛️
وزیر فناوری بریتانیا گفته دیپفیکها به ابزاری برای کلاهبرداری، سوءاستفاده جنسی و تضعیف اعتماد عمومی تبدیل شدهاند. این چارچوب جدید قرار است توان فناوریها را در شناسایی تهدیدهای واقعی مانند جعل هویت، تقلب و سوءاستفاده جنسی بررسی کند و به پلیس و دولت نشان دهد ضعفهای موجود کجاست. 🛡️
بر اساس آمار رسمی، تعداد دیپفیکهای منتشرشده از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به حدود ۸ میلیون مورد در سال ۲۰۲۵ رسیده است. همزمان، پس از انتشار گزارشهایی درباره تولید تصاویر جنسی بدون رضایت توسط چتبات Grok، نهادهای ناظر ارتباطات و حریم خصوصی بریتانیا تحقیقات جداگانهای را آغاز کردهاند. ⚠️۱۴۰۴/۱۱/۱۸ ۲۳:۰۱:۱۶ -
جنگ با دیپفیک یا سانسور گسترده؟ قانون تازه آمریکا در کانون بحث
کنگره آمریکا قانون «Take It Down Act» را برای مقابله با انتشار تصاویر خصوصی و دیپفیکها تصویب کرد. دیپفیک به ویدیو یا تصویری گفته میشود که با هوش مصنوعی ساخته شده و چهره یا صدای افراد را به شکلی جعلی و باورپذیر تغییر میدهد. این قانون پلتفرمها را موظف میکند محتوای گزارششده را طی ۴۸ ساعت حذف کنند. با وجود حمایت گسترده، فعالان حقوق دیجیتال هشدار دادهاند که زبان مبهم قانون و نبود سازوکارهای کنترلی میتواند باعث سوءاستفاده و حذف محتوای سالم شود. نمونههایی از سوءاستفاده از قوانین مشابه پیشتر نیز رخ داده است. منتقدان میگویند این قانون به جای محافظت، ممکن است آزادی بیان را تهدید کند.
۱۴۰۴/۲/۱۰ ۲۳:۵۳:۴۰
