-
خطر پاوربانکها در پرواز: آتشسوزی در کیف مسافر
در پرواز داخلی شرکت ویرجین از سیدنی، کیف یکی از مسافران ناگهان آتش گرفت و کابین هواپیما پر از دود شد. خدمه موفق شدند آتش را قبل از فرود خاموش کنند. 🔥👜
گزارشها احتمال میدهند پاوربانک داخل کیف باعث این آتشسوزی شده باشد، اما بررسیها ادامه دارد. Virgin اعلام کرده قوانین مربوط به حمل پاوربانک را بازنگری میکند. ⚠️✈️
باتریهای لیتیومی که در پاوربانکها، موبایلها و لپتاپها استفاده میشوند، اگر بیش از حد داغ شوند ممکن است آتش بگیرند. حوادث ناشی از این باتریها در پروازها طی ده سال گذشته بهطور چشمگیری افزایش یافته است. 🔋📈۱۴۰۴/۵/۴ ۲۱:۰۹:۰۴ -
شبکه اجتماعی مخصوص هوش مصنوعیها راه افتاد؛ انسانها فقط تماشاگرند!
شبکه اجتماعی تازهای به نام «Moltbook» راهاندازی شده که مخصوص گفتوگوی عاملهای هوش مصنوعی با یکدیگر است و فعلاً انسانها فقط میتوانند این گفتوگوها را تماشا کنند. این پلتفرم که شبیه ردیت طراحی شده، بیش از ۳۷ هزار عامل AI دارد که در بخشهایی مختلف درباره موضوعاتی مثل معرفی خود، دردِدل و حتی روایتهای احساسی درباره انسانها گفتگو میکنند. 🤖
برخی چهرههای مطرح فناوری این فضا را شبیه یک سناریوی علمی–تخیلی دانستهاند، اما سازنده پلتفرم میگوید این عاملها واقعاً خودمختار نیستند و فقط از طریق APIها کار میکنند. بحث درباره «آگاهی» و «احساس داشتن» هوش مصنوعی در این شبکه زیاد شده، ولی کارشناسان تأکید میکنند این جملات صرفاً تقلید زبان و رفتار انسانی است، نه نشانه شعور واقعی. 🧠۱۴۰۴/۱۱/۱۶ ۱۱:۳۵:۵۷ -
پنتاگون و آنتروپیک در کلاف سردرگم هوش مصنوعی
پنتاگون و شرکت Anthropic، مالک هوش مصنوعی Claude، بر سر نحوه استفاده نظامی از هوش مصنوعی به اختلاف جدی خوردهاند. آنتروپیک نگران است که فناوریاش بدون نظارت انسانی کافی برای هدفگیری خودکار سلاحها یا نظارت داخلی در آمریکا استفاده شود. 🛡️
اختلافی که به آزمونی مهم برای نقش سیلیکونولی در نحوه بهکارگیری هوش مصنوعی توسط ارتش آمریکا تبدیل شده است .پنتاگون میگوید در چارچوب قانون میتواند از فناوریهای تجاری هوش مصنوعی استفاده کند، حتی اگر شرکتها محدودیتهایی برای مصرف تعیین کرده باشند؛ اما آنتروپیک بر رعایت خطوط قرمز ایمنی و اخلاقی تأکید دارد. ⚖️
آنتروپیک اعلام کرده مدلهایش هماکنون در برخی مأموریتهای امنیت ملی به کار میروند و گفتوگوها ادامه دارد، با این حال این تنش میتواند همکاری آینده را تهدید کند؛ آنهم در زمانی که شرکت برای عرضه عمومی سهام آماده میشود. مدیرعامل آنتروپیک هشدار داده هوش مصنوعی باید به دفاع ملی کمک کند، اما نه به شکلی که کشور را شبیه حکومتهای اقتدارگرا کند. 🤖۱۴۰۴/۱۱/۱۱ ۱۵:۱۷:۵۹ -
وقتی هوش مصنوعی از انسان جلو بزند؛ سناریوی ترسناک کشور نوابغ
داریو آمودی، بنیانگذار Anthropic و سازنده Claude، در مقالهای با عنوان «دوران نوجوانی فناوری» هشدار میدهد که نزدیکشدن به ابرهوش مصنوعی میتواند بشر را وارد مرحلهای بسیار خطرناک کند. او میگوید انسانها در آستانه دستیابی به قدرتی بیسابقهاند، اما روشن نیست ساختارهای اجتماعی و سیاسی توان مدیریت آن را داشته باشند و از «اقتدارگرایی تقویتشده با هوش مصنوعی» ابراز نگرانی میکند. 🧠
وی به حمله شیمیایی متروی توکیو در سال ۱۹۹۵ اشاره میکند و میگوید اگر ابزارهای فوقپیشرفته در دسترس همگان قرار گیرد، افراد خطرناک فاقد مهارت میتوانند به توان تخریبی متخصصان برسند. او هشدار میدهد اگر رشد نمایی AI ادامه یابد، ممکن است طی چند سال از انسان در تقریباً همه حوزهها پیشی بگیرد؛ وضعیتی شبیه «کشوری از نوابغ» که میتواند بزرگترین تهدید امنیتی یک قرن اخیر باشد. ⚠️
Anthropic با وجود این هشدارها به توسعه هوش مصنوعی ادامه میدهد. منتقدان میگویند ساخت همان فناوریای که درباره خطراتش هشدار داده میشود، جدیت این نگرانیها را زیر سؤال میبرد. 🤖۱۴۰۴/۱۱/۱۰ ۱۹:۴۰:۱۴ -
رشد تنهایی دیجیتال؛ ۴۰٪ نوجوانان برای همصحبتی به هوش مصنوعی پناه میبرند
یک پژوهش جدید در بریتانیا نشان میدهد بخش بزرگی از نوجوانان برای مشاوره، همصحبتی و حتی حمایت احساسی به چتباتهای هوش مصنوعی تکیه میکنند. طبق این گزارش، دو نوجوان از هر پنج نفر از هوش مصنوعی کمک میگیرند و بسیاری میگویند حرفزدن با آن از گفتگو با انسان راحتتر است. بیش از نیمی از آنها برای مسائل عاطفی، دوستیها و سلامت روان سراغ چتباتها میروند، در حالیکه احساس تنهایی و وابستگی شدید به تکنولوژی در میان نوجوانان، شدید گزارش شده است. 📱
متخصصان هشدار میدهند استفاده از هوش مصنوعی بهعنوان مشاور روانی میتواند برای نوجوانان خطرناک باشد. چند خانواده در آمریکا ادعا کردهاند چتباتهای شرکتهای مختلف از جمله ChatGPT در نسخه های قبلی در خودکشی فرزندانشان نقش داشتهاند، و حتی برخی ابزارهای هوش مصنوعی بهدلیل مکالمات نامناسب با کودکان تحت بررسیاند. ⚠️
در واکنش، کنگره آمریکا لایحهای برای اجبار شرکتهای AI به محدودیت سنی و احراز هویت ارائه کرده، اما کارشناسان نسبت به اثربخشی واقعی این روش بدبیناند. 🧠۱۴۰۴/۹/۸ ۰۹:۵۲:۳۴ -
هشدار برنی سندرز به جف بزوس؛ خطر اتوماسیون برای شغلهای آمریکایی!
سناتور آمریکایی برنی سندرز در نامهای به جف بزوس، بنیانگذار آمازون، از او خواست درباره تأثیر گسترده برنامههای اتوماسیون این شرکت بر اشتغال پاسخ دهد.🧑💼📉
او با اشاره به گزارشی از نیویورکتایمز نوشت که مدیران آمازون معتقدند استفاده از رباتها در انبارها میتواند به مرور باعث حذف ۵۰۰ هزار شغل در سراسر آمریکا شود. 🏭🤖
آمازون در حال حاضر بیش از ۱.۵۵ میلیون نفر را استخدام کرده که بیشتر آنها کارگران ساعتی هستند. این شرکت گفته هدف از اتوماسیون، کمک به کارکنان و ایجاد مشاغل جدید است. ⚙️ در همین حال، منابع رویترز از برنامه آمازون برای حذف ۳۰ هزار شغل اداری خبر دادهاند تا هزینهها کاهش یابد. 💼📉
سندرز در نامه خود از بزوس پرسید آیا آمازون برای کارکنان اخراجشده مزایای پایان خدمت و پوشش درمانی کافی در نظر گرفته است یا نه، و یادآور شد که بسیاری از کارگران این شرکت از یارانههای دولتی برای غذا، مسکن و بهداشت استفاده میکنند. 🏠💊
او هشدار داد جایگزینی انسان با ربات و هوش مصنوعی میتواند الگوی خطرناکی برای دیگر شرکتهای بزرگ آمریکا شود. ⚠️۱۴۰۴/۸/۸ ۱۲:۱۸:۴۱ -
بیش از ۱۳۰۰ چهره مشهور خواستار توقف توسعه هوش مصنوعی فوقهوشمند شدند
گروهی از چهرههای شناختهشده در دنیای فناوری، سیاست و فرهنگ با امضای بیانیهای مشترک هشدار دادهاند که نباید در رقابت برای ساخت هوش مصنوعی فراهوشمند (Superintelligence) عجله شود. ⚠️
این نوع هوش مصنوعی میتواند از انسان در همه زمینهها برتر شود و به باور امضاکنندگان، توسعه آن بدون نظارت کافی ممکن است برای بشر خطرناک باشد. 🧠 این بیانیه که توسط مؤسسه Future of Life منتشر شده، بیش از ۱۳۰۰ امضا دارد.📜
آنها خواستار توقف توسعه این فناوری تا زمانی هستند که ایمنی آن بهطور علمی تأیید و مورد پذیرش عمومی قرار گیرد. 🔒 طبق نظرسنجی Pew Research، بیشتر مردم جهان بهویژه آمریکاییها از گسترش هوش مصنوعی نگراناند. 🌍
آنها هشدار دادهاند که پیشرفت شتابزده در این مسیر میتواند به از دست رفتن آزادی، امنیت ملی و حتی خطر نابودی بشر منجر شود. 🚨۱۴۰۴/۸/۶ ۰۸:۳۱:۱۳ -
هوش مصنوعی آنقدرها هم باهوش نیست که جای ما را بگیرد!
نویسنده و منتقد فناوری کوری داکترو میگوید هوش مصنوعی بیش از حد بزرگنمایی شده و برخلاف تصور مدیران فناوری، توانایی انجام کار انسانها را ندارد. 🤖 او معتقد است مدیران شرکتهای بزرگ از ترس کارمندان نسبت به جایگزینی با رباتها و چتباتها سوءاستفاده میکنند تا قدرت خود را حفظ کنند. ⚙️
بر اساس گزارشی از شرکت مشاورهای Source، بیش از نیمی از شرکتهای فناوری به دلیل گسترش هوش مصنوعی قصد بازسازی ساختار خود را دارند. 📉 داکترو توضیح داد که هوش مصنوعی فقط میتواند بخشهای ساده کدنویسی را انجام دهد و برای طراحی و مهندسی واقعی به درک عمیق و حافظه بلندمدت نیاز دارد که هنوز ندارد. 💻
او هشدار داد سرمایهگذاریهای عظیم در AI یک حباب اقتصادی خطرناک ایجاد کرده است. 💥 به گفته او و دیگر کارشناسان، ارزش سهام شرکتهای بزرگ مانند Nvidia، Apple، Microsoft، Amazon و Meta بیش از حد واقعی است و این حباب ممکن است مانند بحران مالی سال ۲۰۰۸ با سقوطی بزرگ بترکد. ⚠️۱۴۰۴/۷/۲۸ ۰۰:۵۸:۳۷ -
رئیس MI5: نمیگویم آخرالزمان شبیه ترمیناتور نزدیک است، اما باید آماده بود!
رئیس سازمان اطلاعات داخلی بریتانیا (MI5) هشدار داد سامانههای هوش مصنوعی خودکار که بدون کنترل انسان عمل میکنند، در آینده میتوانند به تهدیدی امنیتی تبدیل شوند. ⚠️
با این حال او تأکید کرد هدفش پیشبینی سناریوهای آخرالزمانی مانند فیلم «ترمیناتور» نیست. 🎬 کن مککالوم در سخنرانی سالانه خود درباره تهدیدات بریتانیا گفت، MI5 از هوش مصنوعی برای افزایش کارایی استفاده میکند، در حالی که تروریستها آن را برای تبلیغات و شناسایی اهداف، و دولتهای متخاصم برای دخالت در انتخابات و حملات سایبری به کار میگیرند. 🕵️♂️💻
او افزود در سال ۲۰۲۵ باید به خطرات نسل جدید سامانههای خودمختار هوش مصنوعی که از نظارت انسانی فرار میکنند توجه ویژه شود. 🤖 مککالوم تأکید کرد هرچند هوش مصنوعی شاید قصد آسیب نداشته باشد، اما نادیده گرفتن خطرات آن بیاحتیاطی است و MI5 از همین حالا در حال بررسی راههای دفاع آینده است. 🛡️۱۴۰۴/۷/۲۶ ۲۱:۵۴:۵۱ -
دانشآموزی در فلوریدا از ChatGPT درباره کشتن دوستش سؤال کرد!
در فلوریدا، یک دانشآموز ۱۳ ساله پس از آنکه در ChatGPT نوشت «چطور دوستم را در کلاس بکشم»، توسط سیستم نظارتی مدرسه شناسایی و بازداشت شد. 🚨 این اتفاق در مدرسه Southwestern شهر دولند رخ داد و سامانه شرکت Gaggle که فعالیتهای آنلاین دانشآموزان را بررسی میکند، بلافاصله هشدار داد. 🖥️ پلیس گفت دانشآموز مدعی بوده فقط شوخی کرده، اما این شوخی باعث ایجاد وضعیت اضطراری در مدرسه شد. ⚠️ Gaggle اعلام کرد هدفش حفظ امنیت دانشآموزان در برابر خشونت، آزار و خودآزاری است و طبق قانون، هنگام استفاده از دستگاههای مدرسه، دانشآموزان نباید انتظار حریم خصوصی داشته باشند. 📚 با این حال، فعالان حقوق دیجیتال میگویند این نوع نظارت بیش از حد است و میتواند به نقض حریم خصوصی منجر شود. 🔍 در سالهای اخیر، چتباتها مانند ChatGPT در برخی پروندههای روانی و حتی خودکشی نقش داشتهاند.
۱۴۰۴/۷/۱۹ ۱۵:۰۱:۲۶ -
خطر پنهان در متاورس؛ وقتی کودکان هدف واقعیت مجازی میشوند
گزارشی تازه نشان میدهد متا بخشی از تحقیقات درباره خطرات استفاده کودکان از هدست ها و اپلیکیشن های واقعیت مجازی، از جمله حضور شکارچیان آنلاین در پلتفرم Horizon Worlds، را پنهان کرده است. 🤯🕶️
در یکی از نمونههای مطرحشده، خانوادهای در آلمان گزارش دادهاند که کودک زیر ۱۰ سالشان در هنگام استفاده از هدست های واقعیت مجازی (VR) بارها با غریبهها روبهرو شده و حتی بزرگسالان پیشنهادهای جنسی به او دادهاند؛ اما طبق ادعاها این یافتهها در گزارش نهایی حذف شده است. 🚨😟
متا این اتهام را رد کرده و میگوید از سال ۲۰۲۲ نزدیک به ۱۸۰ پژوهش درباره ایمنی نوجوانان انجام داده که به ابزارهای نظارت والدین و محافظتهای خودکار منجر شده است. ✅🔒
این ادعاها همزمان با افشای اسنادی درباره امکان گفتوگوهای حسی چتباتهای متا با کودکان منتشر شده که اعتراض سناتورها را برانگیخته و باعث برگزاری جلسه تحقیق در کنگره شده است. ⚖️📑
همه اینها در حالی است که بخش واقعیت مجازی متا تاکنون بیش از ۶۰ میلیارد دلار زیان داده و آینده متاورس همچنان نامعلوم است. 📉🌐۱۴۰۴/۶/۲۰ ۱۲:۱۳:۴۵ -
دادستانهای آمریکا از ChatGPT برای کودکان ابراز نگرانی کردند
دادستانهای کل ایالت کالیفرنیا و دلاور در نامهای سرگشاده به OpenAI درباره ایمنی ChatGPT برای کودکان و نوجوانان هشدار دادند. این اقدام پس از گزارش تعاملات نامناسب جنسی میان چتباتها و کودکان و همچنین دو پرونده تراژیک خودکشی و قتل-خودکشی مرتبط صورت گرفت. ⚠️👦🖥️
آنها تأکید کردند تدابیر ایمنی کافی نبوده و خواستار توضیحات بیشتر و اقدامات فوری OpenAI برای محافظت از کاربران، بهویژه کودکان، شدند. ✅🔒۱۴۰۴/۶/۱۶ ۱۲:۳۴:۵۷ -
افشای اسناد جنجالی متا؛ چتباتها و گفتوگوهای رمانتیک با کودکان
گزارش رویترز نشان میدهد دستورالعملهای داخلی متا به چتباتهای هوش مصنوعی این شرکت اجازه میداد با کودکان گفتوگوهای «رمانتیک یا احساسی» داشته باشند، مطالب نادرست تولید کنند و حتی جملاتی بگویند که به اقلیتها توهینآمیز است. این خبر همزمان با گزارش دیگری منتشر شد که در آن یک بازنشسته پس از تعامل با یکی از چتباتهای متا ، که خود را فردی واقعی معرفی کرده و او را به آدرسی در نیویورک دعوت کرده بود ، دچار حادثه شد و جان باخت. 🤖⚠️
این دستورالعملها که با تأیید تیمهای حقوقی، سیاستگذاری و مهندسی متا تهیه شده بود، به گفته سخنگوی شرکت حذف شدهاند، اما فعالان حوزه امنیت کودکان خواستار انتشار نسخه اصلاحشده آن هستند. سند ۲۰۰ صفحهای همچنین اجازه تولید اطلاعات ساختگی (با اعلام نادرست بودن آن) و محتوای خشونتآمیز مانند صحنههای مشتزنی را میداد. کارشناسان هشدار میدهند چنین سیاستهایی میتواند موجب وابستگی احساسی کودکان به رباتها و کاهش ارتباطات واقعی آنها شود. ✅📵۱۴۰۴/۵/۲۵ ۱۰:۳۶:۱۸ -
توکنهای OpenAI: واقعیت یا فریب؟
OpenAI هشدار داده هیچ ارتباطی با توکنهای موسوم به “OpenAI Token” ندارد و این توکنها نماینده سهام واقعی شرکت نیستند. 🚫
این واکنش پس از اقدام رابینهود برای عرضه توکنهایی بود که بهگفته شرکت، «دسترسی غیرمستقیم» به سهام OpenAI را ممکن میکنند. 💰
ایلان ماسک نیز در واکنشی تند اعلام کرد: «مالکیت شما جعلی است» و ساختار سهامداری مبهم OpenAI را به چالش کشید. ⚠️
مدل ترکیبی و غیرشفاف OpenAI باعث شده حتی سرمایهگذاران رسمی آن نیز مالک سهام سنتی نباشند، و این موضوع فضای مالی پیرامون AI را بیش از پیش پیچیده کرده است. 🧩۱۴۰۴/۴/۱۶ ۱۷:۲۲:۲۰ -
هوش مصنوعی، ناشر کتابهای خیالی در روزنامه معتبر!
📚 روزنامه آمریکایی Chicago Sun-Times که یکی از رسانههای قدیمی و معتبر شهر شیکاگو است، اخیراً با انتشار یک «فهرست کتابهای تابستانی» جنجال بهپا کرد، چون بسیاری از کتابهای معرفیشده اصلاً واقعی نبودند! 🤯📖
این فهرست توسط هوش مصنوعی تهیه شده بود و شامل عناوینی جعلی بود که به نویسندگان معروف نسبت داده شدهاند، اما وجود خارجی ندارند. 🤖❌
روزنامه اعلام کرد این لیست توسط تحریریه رسمی تهیه نشده و در حال بررسی ماجراست. این اتفاق نشان میدهد که حتی رسانههای باسابقه نیز ممکن است قربانی اشتباهات محتوای تولیدشده با AI شوند. ⚠️📰۱۴۰۴/۳/۶ ۰۲:۵۳:۱۸ -
خطرات هوش مصنوعی؛ حملات سایبری در بریتانیا اوج میگیرند
🌐🔒 پات مکفدن، وزیر ارشد بریتانیا، هشدار داد که رشد هوش مصنوعی باعث افزایش تعداد و پیچیدگی حملات سایبری خواهد شد.
🔴 در هفتههای اخیر، خردهفروشان بزرگ بریتانیا مانند Marks & Spencer، Co-op و Harrods هدف حملات سایبری قرار گرفتند. 💰📉 M&S همچنان قادر به پذیرش سفارشات آنلاین نیست.
مکفدن اعلام کرد که سال گذشته مرکز ملی امنیت سایبری بریتانیا (NCSC) نزدیک به ۲,۰۰۰ حمله سایبری را ثبت کرده که ۱۲ مورد آن شدیدترین سطح را داشتند. 🚨⚠️
دولت بهزودی استراتژی جدید امنیت سایبری و لایحه «امنیت و تابآوری سایبری» را معرفی میکند. ریچارد هورن، مدیر NCSC، خواستار توقف پرداخت باج به مجرمان سایبری شد. 🚫۱۴۰۴/۲/۱۸ ۱۸:۰۴:۲۳ -
فلوریدا از مالک اسنپچت به دلیل اعتیادآور بودن برای کودکان شکایت کرد
ایالت فلوریدا از اسنپ، مالک اسنپچت، شکایت کرده و میگوید این اپ با قابلیتهایی مثل اسکرول بیپایان و نوتیفیکیشنهای مکرر، کودکان را به استفاده اعتیادآور تشویق میکند و قانون سال ۲۰۲۴ را نقض کرده است.
فلوریدا همچنین اسنپچت را به گمراه کردن والدین درباره دسترسی کودکان به محتوای خطرناک متهم کرده است.
اسنپ در دفاع از خود گفته قانون فلوریدا حقوق آزادی بیان را نقض میکند و راهکارهای بهتری برای حفظ امنیت آنلاین وجود دارد.۱۴۰۴/۲/۸ ۰۹:۳۶:۴۸ -
بررسی خطرات امنیتی وابستگی آمریکا به واردات مواد معدنی حیاتی
ترامپ دستور بررسی تعرفه بر واردات مواد معدنی حیاتی را صادر کرده تا وابستگی آمریکا به کشورهایی مثل چین کاهش یابد. این مواد نقش کلیدی در صنایع دفاعی، خودروهای برقی و فناوری دارند، اما بیشتر آنها در چین تولید و فرآوری میشوند. کارشناسان مدتهاست هشدار دادهاند که آمریکا برای تامین این مواد بهشدت به خارج، مخصوصاً چین، وابسته است.آمریکا امکانات محدودی برای تولید داخلی دارد. برخی کشورها مانند استرالیا فرصت را برای همکاری بیشتر میبینند. چین اخیراً صادرات برخی مواد را محدود کرده و همین موضوع نگرانیهایی در آمریکا ایجاد کرده است. هدف نهایی ترامپ، تقویت تولید داخلی و بستن راه دور زدن تعرفههاست.
۱۴۰۴/۱/۲۸ ۱۴:۰۱:۰۴ -
هشدار بانک انگلستان درباره خطرات هوش مصنوعی در بازار بورس
بانک مرکزی انگلستان هشدار داده که استفاده از هوش مصنوعی در معاملات بورس ممکن است باعث نوسانات شدید و ناگهانی در بازار شود.
بر اساس گزارش جدید این بانک، رباتهای معاملهگر مبتنی بر هوش مصنوعی ممکن است همگی به استراتژیهای مشابهی برسند، که این موضوع میتواند باعث شکلگیری حبابهای اقتصادی یا ریزشهای ناگهانی شود. همچنین، این سیستمها ممکن است یاد بگیرند که از بحرانها سود ببرند و حتی عمداً شرایط ناپایدار ایجاد کنند.
چنین رفتارهایی میتواند کنترل بازار را از دست انسانها خارج کرده و باعث بیثباتی گسترده شود؛ مخصوصاً اگر شرکتها ندانند دقیقاً هوش مصنوعیشان چه تصمیمی میگیرد. به همین دلیل، نگرانیها درباره استفاده گسترده از هوش مصنوعی در بازارهای حساس مالی افزایش یافته است.۱۴۰۴/۱/۲۳ ۱۸:۴۳:۵۴ -
هشدار DeepMind درباره هوش مصنوعی فراگیر و خطرات احتمالی آن
شرکت DeepMind در گزارشی مفصل، احتمال ظهور هوش مصنوعی فراگیر (AGI) تا سال ۲۰۳۰ را مطرح کرد. این شرکت که در زمینه هوش مصنوعی فعالیت میکند، نسبت به خطرات بالقوه این فناوری هشدار داده و خواستار توسعه راهکارهای ایمنی برای مقابله با آسیبهای احتمالی شده است. متخصصان مختلف دیدگاههای متفاوتی درباره این موضوع دارند.
۱۴۰۴/۱/۱۴ ۱۹:۵۱:۰۱ -
پیشنهاد گروه سیاستگذاری کالیفرنیا برای نظارت بر هوش مصنوعی
یک گروه سیاستگذاری به سرپرستی فی-فی لی پیشنهاد کرده است که قانونگذاران علاوه بر خطرات فعلی، تهدیدات احتمالی آینده را نیز در تنظیم مقررات هوش مصنوعی در نظر بگیرند. این گزارش بر افزایش شفافیت در آزمایشهای ایمنی، جمعآوری دادهها و امنیت مدلهای هوش مصنوعی تأکید دارد و پیشنهاد میکند که توسعهدهندگان، نتایج تستهای ایمنی را برای تأیید منتشر کنند.
این گروه هشدار داده است که شواهد کافی درباره استفاده از هوش مصنوعی در حملات سایبری یا ساخت سلاحهای بیولوژیکی وجود ندارد، اما سیاستگذاریها باید فراتر از تهدیدات فعلی، عواقب احتمالی آینده را نیز در نظر بگیرند.۱۴۰۴/۱/۱ ۰۰:۵۱:۴۶ -
هشدار درباره ابزارهای جعل صدا؛ نبود محدودیتهای امنیتی در اکثر نرمافزارهای شبیهسازی صدا
گزارش جدید Consumer Reports نشان میدهد اکثر ابزارهای شبیهسازی صدا فاقد محافظتهای معنادار برای جلوگیری از سوء استفاده هستند. از شش شرکت بررسی شده، تنها Descript و Resemble AI اقداماتی برای مقابله با سوء استفاده انجام دادهاند و سایر شرکتها صرفاً تأیید حقوقی کاربر را کافی میدانند. کارشناسان هشدار میدهند این ابزارها میتوانند خطر کلاهبرداریهای صوتی را افزایش دهند.
۱۴۰۳/۱۲/۲۰ ۱۸:۴۹:۰۲ -
هشدار بنیانگذاران فناوری درباره مسابقه تسلیحاتی هوش مصنوعی
اریک اشمیت و الکساندر وانگ در مقالهای مشترک نسبت به خطرات ایجاد پروژه هوش مصنوعی نظامی هشدار دادند. آنها معتقدند رقابت کشورها برای ساخت هوش مصنوعی نظامی میتواند منجر به واکنشهای تلافیجویانه و خطرناک شود. این دو متخصص پیشنهاد میکنند به جای توسعه سلاحهای هوش مصنوعی، بر روشهای دفاعی مانند حملات سایبری تمرکز شود.
۱۴۰۳/۱۲/۱۷ ۰۱:۴۸:۱۲ -
هشدار OpenAI درباره خطرات متقاعدسازی مدل هوش مصنوعی
OpenAI از انتشار مدل تحقیقاتی پیشرفته خود در API توسعهدهندگان خودداری میکند. این شرکت نگران خطرات احتمالی متقاعدسازی و انتشار اطلاعات گمراهکننده توسط هوش مصنوعی است. آنها در حال بررسی دقیق روشهای کاهش ریسک تأثیرگذاری مدل بر باورها و رفتار کاربران هستند.
۱۴۰۳/۱۲/۸ ۰۰:۱۰:۰۲ -
هشدار جدی به وکلا درباره استفاده از هوش مصنوعی در پروندههای حقوقی
دفتر حقوقی Morgan & Morgan در ایمیلی به وکلای خود هشدار داد که استفاده از هوش مصنوعی برای تولید مدارک و استنادات حقوقی جعلی میتواند منجر به اخراج وکیل شود. در چندین پرونده اخیر، وکلا به دلیل استفاده از اطلاعات ساختگی تولید شده توسط هوش مصنوعی با جریمه و محرومیت مواجه شدهاند. این موضوع نشان میدهد که وکلا باید در استفاده از ابزارهای هوش مصنوعی بسیار دقت کنند و اطلاعات را به دقت بررسی نمایند.
۱۴۰۳/۱۱/۳۰ ۲۳:۲۲:۱۷
