خبر یزد

آخرين مطالب

«متا» توسعه هوش مصنوعی را متوقف می‌کند علمي

«متا» توسعه هوش مصنوعی را متوقف می‌کند
  بزرگنمايي:

خبر یزد - ایسنا / «مارک زاکربرگ»(Mark Zuckerberg)، مدیرعامل شرکت «متا»(Meta) متعهد شده است هوش مصنوعی جامع را که تقریبا به عنوان هوش مصنوعی با توانایی‌های یک انسان در انجام دادن کارها تعریف می‌شود، یک روز به طور آشکار در دسترس قرار دهد، اما این شرکت در یک سند پیرامون سیاست جدید خود گفته شرایط خاصی وجود دارد که ممکن است باعث شوند متا سیستم هوش مصنوعی بسیار توانمند خود را منتشر نکند.
به نقل از تک کرانچ، این سند که متا آن را «Frontier AI Framework» نامیده است، دو نوع سیستم هوش مصنوعی را شناسایی می‌کند و گفته شده شرکت، انتشار آنها را بسیار خطرناک می‌داند. این دو سیستم، سیستم‌های پرخطر و سیستم‌های بحرانی نام دارند.
به گفته متا، سیستم‌های پرخطر و بحرانی می‌توانند به امنیت سایبری، حملات شیمیایی و بیولوژیکی کمک کنند. تفاوت آنها در این است که سیستم‌های بحرانی می‌توانند به یک نتیجه فاجعه‌آمیز منجر شوند که قابل کاهش نیست. در مقابل، سیستم‌های پرخطر ممکن است انجام دادن یک حمله را آسان‌تر کنند، اما نه به اندازه یک سیستم بحرانی.
متا اذعان می‌کند که فهرست فاجعه‌های احتمالی در سند کامل نیست، اما مواردی را شامل می‌شود که متا معتقد است فوری‌ترین و محتمل‌ترین آنها هستند و در نتیجه انتشار مستقیم یک سیستم هوش مصنوعی قوی به وجود می‌آیند.
موضوع تعجب‌آور این است که بر اساس این سند، متا خطر سیستم را بر اساس هیچ کدام از آزمایش‌های تجربی طبقه‌بندی نمی‌کند، بلکه طبقه‌بندی را بر اساس داده‌های ارائه‌شده توسط پژوهشگران داخلی و خارجی انجام می‌دهد که توسط تصمیم‌گیرندگان ارشد بررسی می‌شوند. متا می‌گوید که معتقد نیست علم ارزیابی به اندازه کافی قوی باشد تا معیارهای کمی قطعی را برای تصمیم‌گیری درباره خطرپذیری یک سیستم ارائه دهد.
متا می‌گوید اگر تشخیص دهد که یک سیستم پرخطر است، دسترسی به آن را به صورت داخلی محدود می‌کند و تا زمانی که اقدامات کاهشی را برای کاهش خطر به سطوح متوسط ​​انجام ندهد، آن را منتشر نخواهد کرد. از سوی دیگر، متا می‌گوید اگر یک سیستم خطرناک تلقی شود، حفاظت‌های امنیتی نامشخصی را برای جلوگیری از نفوذ به سیستم اجرا خواهد کرد و توسعه را متوقف خواهد ساخت تا زمانی که خطر آن کاهش یابد.
سند Frontier AI Framework متا که به گفته شرکت، با تغییر چشم‌انداز هوش مصنوعی تکامل خواهد یافت و متا پیشتر به انتشار آن پیش از اجلاس «France AI Action Summit» در ماه جاری میلادی متعهد شده بود، به نظر می‌رسد پاسخی به انتقاد از رویکرد باز این شرکت برای توسعه سیستم باشد. متا بر خلاف شرکت‌هایی مانند «اوپن‌ای‌آی»(OpenAI) که تصمیم می‌گیرند سیستم‌های خود را پشت یک API قرار دهند، پذیرفته است که فناوری هوش مصنوعی خود را به ‌صورت آزاد اما نه به صورت منبع باز طبق تعریف معمول در دسترس قرار دهد.
متا در انتشار Frontier AI Framework خود نیز ممکن است قصد داشته باشد راهبرد هوش مصنوعی باز خود را با راهبرد شرکت چینی هوش مصنوعی «دیپ‌سیک»(DeepSeek) مقایسه کند. دیپ‌سیک سیستم‌های خود را به صورت آزاد در دسترس قرار می‌دهد، اما هوش مصنوعی این شرکت، محافظ‌های کمی دارد و به راحتی می‌توان آن را برای تولید خروجی‌های مضر هدایت کرد.
متا در این سند نوشته است: ما معتقدیم که با در نظر گرفتن مزایا و خطرات برای تصمیم‌گیری درباره چگونگی توسعه و استقرار هوش مصنوعی پیشرفته می‌توان آن را به گونه‌ای به جامعه تحویل داد که مزایای آن برای جامعه حفظ شود و در عین حال، سطح مناسبی از خطر را داشته باشد.

لینک کوتاه:
https://www.khabareyazd.ir/Fa/News/696537/

نظرات شما

ارسال دیدگاه

Protected by FormShield
مخاطبان عزیز به اطلاع می رساند: از این پس با های لایت کردن هر واژه ای در متن خبر می توانید از امکان جستجوی آن عبارت یا واژه در ویکی پدیا و نیز آرشیو این پایگاه بهره مند شوید. این امکان برای اولین بار در پایگاه های خبری - تحلیلی گروه رسانه ای آریا برای مخاطبان عزیز ارائه می شود. امیدواریم این تحول نو در جهت دانش افزایی خوانندگان مفید باشد.

ساير مطالب

رباتی که همه را به یاد قسمت آخر سریال Black Mirror انداخت

حضور مردم انقلابی و ولایتمدار شهرستان خاتم و اشکذر در 22 بهمن +عکس

حضور حماسی یزدی‌ها در چهل‌وششمین جشن پیروزی انقلاب

تکریم خانواده‌های شهدا وظیفه همگانی است

داستانک/ زرافه و زندگی

ایلان ماسک با مرگ دست‌به‌یقه شد!

عکس روز ناسا؛ مرغ مگس‌خوار رنگارنگ در آسمان نروژ

دربی جذاب والیبال ایران: حساس‌تر از هر وقت دیگر

زوج‌های جوان یزدی آغازگر جشن انقلاب شدند + عکس

جلوه‌هایی ویژه از حضور نوجوانان در راهپیمایی 22 بهمن در بافق+عکس

پیام تبریک مدیرعامل شرکت بیمه دی به مناسبت چهل و ششمین سالگرد پیروزی انقلاب اسلامی ایران

حضور معاون رئیس جمهور و رئیس بنیاد شهید در جمع راهپیمایان تبریز

شاعرانه/ بسوخت حافظ و بویی به زلفِ یار نَبُرد

سخنان جالب دکتر کاکاوند در مورد ایرج میرزا

سرنخ‌ درک حافظه انسان در عضلات نهفته است

آغاز جشن چهل و ششمین سالگرد پیروزی انقلاب شکوهمند اسلامی در یزد

290 امدادگر هلال احمر یزد پوشش امدادی راهپیمایی 22 بهمن را بر عهده دارند

یزد غرق در شکوه انقلاب؛ راهپیمایی 22 بهمن آغاز شد

تعطیلی ادارات یزد 23 بهمن 1403 | ادارات استان یزد فردا سه شنبه 23 بهمن 1403 تعطیل است؟

قلب ها بی خبر از عاطفه اند!

تامین نیروی فضاپیماها با آب!

یزدی‌ها آماده خلق یک حماسه

مناسبت روز/ دوشنبه، 22 بهمن‌ماه

اینفوگرافی/ 6 توصیه طلایی به نوجوانان برای موفق شدن به بهانه روز جوان

جانبازان پشتوانه امنیت و اقتدار ایران اسلامی هستند

نامزدهای جایزه ادبی «الوند» معرفی شدند

تصویر بسیار دقیق از خاک مریخ از مریخ‌نورد کنجکاوی

طرز تهیه پاستای سیر و رزماری ، تجربه یک طعم متفاوت و بی نظیر

بانگ الله‌اکبر انقلاب در دارالعباده یزد

دکلمه خسرو شکیبایی با شعر سلامی دوباره از فروغ فروخزاد

آشنایی با فیبرهای نوری

کشف رازی مخوف/ آدم‌خواری حقیقت دارد؟

جشنواره بین‌المللی شعر فجر؛ یزد میزبان شاعران جوان

تولید 27 نوع دارو توسط یک شرکت داروسازی در هرات

استان یزد همراه با سراسر کشور غرق در فریاد الله‌اکبر

خلاصه هندبال نفت‌گازگچساران – سنگ‌آهن بافق

‌‌دعوت مدیرکل بنیاد مازندران از جامعه ایثارگری استان در راهپیمایی یوم اله 22بهمن

همکاری برای ارائه خدمات به جامعه ایثارگری در اولویت سازمان فرهنگی، هنری، ورزشی و سیاحتی کوثر و بانک دی قرارگرفت

به درمانم نمی‌کوشی، نمی‌دانی مگر دردم؟

کِی شعر تر انگیزد خاطر که حزین باشد

کوانتوم به زبان ساده؛ درهم‌تنیدگی کوانتومی و اصل برهم نهی چیه؟

موفقیت دانشمندان شیمی ایران در عبور از تحریم‌ها؛ رقابت با همتایان آمریکایی

شعرخوانی زیبا از مهران مدیری

از دست تو تو سینه ی من هل هله بر پاست

برف و باران در 31 استان؛ از سفر غیرضروری به این استان ها بپرهیزید

روش نوین پژوهشگران دانشکدگان فنی برای بازیافت پسماندهای نیروگاهی

بهره‌برداری از 43 طرح در مهریز به مناسبت دهه فجر

سرریز جمعیت در روستاهای یزد؛ هویت فرهنگی درخطر دگرگونی است

885 قطعه زمین «طرح جوانی جمعیت» در شهرستان زارچ آغاز شد

تیم فوتبال شهید قندی یزد بر شاهین تهران غلبه کرد+فیلم