پیمانی جهانی برای جلوگیری از تولید سلاح‌های زیستی توسط هوش مصنوعی
تاریخ انتشار: ۲۰ اسفند ۱۴۰۲ | کد خبر: ۳۹۹۲۲۳۸۰
خبرگزاری علم و فناوری آنا به نقل از اینترستینگ اینجینرینگ، راه‌های زیادی برای استفاده اشتباه از هوش مصنوعی وجود دارد. به عنوان مثال، هوش مصنوعی ممکن است به فعالان نظامی در برنامه‌های جنگی کمک کند. با این حال، برخی محدودیت‌ها برای مقابله با سوءاستفاده احتمالی از هوش مصنوعی اعمال شده است.
بیش از ۱۰۰ دانشمند در مجموع متعهد به رعایت ۱۰ سیاست برای جلوگیری از استفاده از هوش مصنوعی در زیست بوم‌ها شده‌اند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
این توافق حاصل نشست ۲۰۲۳۰ دانشگاه واشنگتن بود. هدف این نشست تأکید بر مدیریت ریسک فعال برای کاهش خطرات مرتبط با فناوری‌های هوش مصنوعی است که می‌تواند به صورت عمدی یا غیر عمدی برای ایجاد آسیب مورد بهره برداری قرار گیرد.
این توافق نامه به جای اعمال ممنوعیت در استفاده از هوش مصنوعی، بر ایجاد اصول راهنما تمرکز دارد. در عوض، اقداماتی را برای جلوگیری از فجایع ناخواسته مرتبط با دی‌ان‌ای مطرح می‌کند.
سیاست‌های اصلی شامل تعهد دانشمندان به عدم مشارکت در تحقیقات است که می‌تواند منجر به آسیب کلی یا سوء استفاده شود. علاوه بر این، دانشمندان متعهد می‌شوند که تنها از خدمات دی‌ان‌ای ارائه دهندگان مجهز به اقدامات غربالگری استفاده کنند.
این اقدامات شامل تشخیص بیومولکول‌های خطرناک قبل از تولید آنها است. هدف آنها این است که اطمینان حاصل کنند تحقیقات مبتنی بر هوش مصنوعی در مرز‌های اخلاقی باقی می‌مانند و از پیامدهای ناخواسته جلوگیری می‌کنند.
علاوه بر این، این توافق نامه می‌گوید که دانشمندان باید پیش از انتشار نرم افزار‌های مبتنی بر هوش مصنوعی، خطرات ایمنی را ارزیابی کرده و درتمرین‌های «تیم قرمز» شرکت کنند. تمرینات تیم قرمز شامل تمرینات شبیه سازی شده برای شناسایی نقاط ضعف بالقوه در پروتکل‌های غربالگری است.
این روش‌ها هر سناریویی را که تهدید بالقوه‌ای در مورد زیست بوم‌های هوش مصنوعی باشد، شناسایی و متوقف خواهند کرد. شبیه سازی نشان می‌دهد که شما هرگز نمی‌توانید خیلی مراقب باشید، اما همیشه محتاط باشید.
پیمانی جهانی برای جلوگیری از تولید سلاح‌های زیستی
این سیاست‌ها در بین بسیاری از افراد طنین‌انداز شده است، زیرا دانشمندان فردی از مؤسساتی مانند هاروارد و سایر کشور‌ها در کشور‌هایی مانند آلمان و ژاپن این توافق را تأیید کرده‌اند. قابل ذکر است، اریک هورویتز، مدیر ارشد علمی مایکروسافت، به همراه متخصصان شرکت‌هایی مانند «منتن ای‌آی» (ProteinQure)، «پروتئین کییِر» (Menten AI) و «پرفورنت بایو» (Profluent Bio) نیز این قرارداد را امضا کرده‌اند.
در حالی که این توافق اختیاری است و به تعهدات دانشمند فردی دلالت می‌کند، این امید وجود دارد که موسسات و همکاران به طور جمعی سیاست‌های مشخص شده را اتخاذ کنند. این توافق اختیاری جدید پس از آن صورت گرفت که داریو آمودی، مدیر عامل آنتروپیک، سال گذشته گفت که سلاح‌های زیستی مبتنی بر هوش مصنوعی خطری «میان‌مدت» هستند، اما تنها چند سال با آن فاصله دارند.
آمودی خاطرنشان کرد: مراحل خاصی در تولید سلاح‌های زیستی شامل دانشی است که در گوگل یا کتاب‌های درسی یافت نمی‌شود و به تخصص بالایی نیاز دارد. ما متوجه شدیم که ابزارهای هوش مصنوعی امروزی می‌توانند برخی از این مراحل را پر کنند.
قوانین جامع فدرال ایالات متحده در مورد استفاده از هوش مصنوعی هنوز در حال توسعه است. کاخ سفید طرح منشور حقوق هوش مصنوعی را در سال ۲۰۲۲ پیشنهاد کرد. علاوه بر این، طبق کنفرانس ملی قانونگذاران ایالتی ایالات متحده، ۱۸ ایالت و پورتوریکو قوانین یا قطعنامه‌های مختلفی را در مورد استفاده از هوش مصنوعی در سال گذشته تصویب کردند.
این توافق تحت عنوان «ارزش‌های جامعه، اصول راهنما، و تعهدات توسعه مسئولانه هوش مصنوعی برای طراحی پروتئین» شناخته می‌شود.
انتهای پیام/
منبع: آنا
کلیدواژه: هوش مصنوعی قانون گذاری هوش مصنوعی سلاح بیولوژیک استفاده از هوش مصنوعی مبتنی بر هوش مصنوعی برای جلوگیری سلاح های زیستی سیاست ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۹۲۲۳۸۰ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
صنعت نشر هند برای تولید کتاب‌های صوتی با هوش مصنوعی آماده می‌شود
هندوستان در این دوره از نمایشگاه به عنوان مهمان ویژه قرار است صنعت نشر خود را به ایرانیان معرفی کند. جریان نشر در هندوستان به دلیل وجود زبان‌های بومی گوناگون از تنوع خاصی برخوردار است. هندوستان به دلیل پیشینه تاریخی و همچنین روابط فرهنگی‌اش با ایران محتوای بسیاری برای ارائه به ایرانیان دارد. اما این صنعت اکنون در حوزه تکنولوژی نیز در حال آزمودن ایده‌هایی است که می‌تواند برای ایرانیان کارآیی داشته باشد. متنی که در ادامه می‌خوانید، با ترجمه و تالیف مارال توکلی یکی از این ایده‌ها را معرفی می‌کند:
صنعت نشر هند امکانات تولید کتاب‌های صوتی هوش مصنوعی را بررسی می‌کند، ناشران آماده حضور در این عرصه هستند، اما صداپیشگان و خوانندگان تردید دارند.
مدیسون مردی را توصیف می‌کند که به یک منظره زیبا نگاه می‌کند. صدای آهسته و بافت‌دار مدیسون هنگام توصیف آن منظره دلفریب بالا و پایین می‌شود. او کمی مکث می‌کند تا کمی تعلیق ایجاد شود، سپس وارد نقطه اوج می‌شود.
مدیسون یک انسان نیست، بلکه یک «راوی دیجیتال» است که Apple Books به‌طور خاص برای ژانرهای داستانی و عاشقانه ایجاد کرده است. برخی دیگر از راویان دیجیتالی موجود در این فهرست عبارتند از «جکسون» معمولی و دوستانه، «هلنا» سخت و ترسناک و «میچل» خشک اما استادانه.
اپل بوکز در وب‌سایتش، راوی‌های دیجیتالی خود را به عنوان راهی برای کمک به نویسندگان مستقل و نویسندگانی که آثارشان توسط ناشران کوچک‌تر منتشر شده، پیشنهاد می‌کند، چرا که با موانعی مانند سردرگمی فنی و هزینه‌های بالا مواجه نمی‌شوند.
وقتی این خبر در جامعه صداپیشگی پخش شد، واکنش‌های منفی بسیاری را برانگیخت، حتی زمانی که اپل بوکز به خوانندگان اطمینان داد که «به رشد فهرست کتاب‌های صوتی با روایت انسان ادامه خواهد داد.»
به نظر می‌رسد «راوی هوش مصنوعی» موضوعی مرتبط با ایالات متحده آمریکا یا اروپا محور به‌نظر برسد، اما کتاب‌های دیجیتال یا روایت شده با هوش مصنوعی ممکن است از لپ‌تاپ‌ها و تلفن‌های هوشمند هندی‌ها دور نباشند.
آنانت پادمانابهان؛ مدیرعامل «هارپر کالینز» هند، گفته است که آنها درحال حاضر درحال «نمونه‌گیری» از راویان هوش مصنوعی برای کتاب‌های صوتی هستند، اما هنوز صدایی که دوست داشته باشند پیدا نکرده‌اند. او معتقد است که هوش مصنوعی می‌تواند به تولید کتاب‌های صوتی بیشتر و صرفه‌جویی در زمان کمک کند.
پادمانابهان گفت: «می‌توانم به شما بگویم، شما تفاوت خوانش توسط هوش مصنوعی و انسان را نمی‌دانید.» «این جایی است که به آن می‌رسد تا زمانی به شما بگویم که این توسط هوش مصنوعی روایت شده است» (یا) «این روایت انسان است»، فکر نمی‌کنم متوجه شوید. در روایت‌های غیرداستانی و جاهای دیگر، فکر نمی‌کنم مهم باشد. فکر می‌کنم در داستان‌ها مهم است که روایت کجا مکث می‌کند، جایی که راوی چیزهای بیشتری را به ارمغان می‌آورد.»
وی افزود که راوی‌های هوش مصنوعی انتشار سریع‌تر کتاب‌های ترجمه شده را نیز امکان‌پذیر می‌کنند.
نویسندگان چه فکری می‌کنند؟
خوانندگان و نویسندگان نگران پیامدهای اجتماعی جریان اصلی کتاب‌های روایت شده توسط هوش مصنوعی هستند و صداپیشگان فرصت‌های شغلی را از دست می‌دهند. متخصصان همچنین می‌ترسند که کتاب‌های صوتی که قبلا توسط آنها روایت شده است، بدون رضایت آنها برای آموزش ابزارهای هوش مصنوعی که می‌تواند جایگزین آنها شود، استفاده شود.
با درنظر گرفتن این موضوع، آیا خوانندگان و نویسندگان هندی از کتاب‌های روایت شده توسط هوش مصنوعی حمایت می‌کنند؟
میمی موندال، نویسنده هندی داستان‌های علمی تخیلی و فانتزی، گفت که از مفهوم کتاب‌های روایت شده با هوش مصنوعی و شکل آینده علمی-تخیلی اطراف او «بسیار هیجان زده» است. با این حال، او اعتراف کرد که اگر جایگزین انسانی وجود داشته باشد، چنین کتاب‌هایی را توصیه یا خریداری نمی‌کند.
ازنظر فنی این تقصیر هوش مصنوعی نیست. فقط این است که ما آن را به چنین دنیای نابرابری می‌آوریم و آن را به وسیله دیگری برای ظلم تبدیل می‌کنیم.
رش سوزان، نویسنده و ویراستار، که کتاب‌ها را در وبلاگ The Book Satchel مرور می‌کند، گفت که به کتاب‌های صوتی زیادی گوش می‌دهد، اما راوی‌های هوش مصنوعی/دیجیتال را «رباتیک و بی جان» می‌داند. او همچنین گفت که با بازبینی کتاب‌هایی که توسط راوی‌های دیجیتال خوانده می‌شود، موافقت نمی‌کند.
خانم سوزان در بیانه‌ای ایمیلی گفت: «من راوی دیجیتالی را به اندازه کافی خوب نمی‌دانم که با صداپیشگانی که می‌توانند جزئیات احساسات را از طریق آهنگ و سبک خواندن خود برانگیزند رقابت کنند. بنابراین، نظر کلی من درمورد کتاب تغییر می‌کند. امیدوارم روی این تمرکز کنیم که فناوری جدید چگونه می‌تواند به ما در انجام سریع‌تر و آسان‌تر کمک کند، و به دنبال راه‌هایی نباشیم که در آن کار انسان کم ارزش شده و قابل تعویض باشد.»
از منظر یک منتقد، خانم سوزان نگران بود که راوی دیجیتال عاملی است که می‌تواند بر موفقیت یا عدم موفقیت یک کتاب تأثیر بگذارد.
او هشدار داد: «یک کتاب خوب می‌تواند به یک کتاب صوتی متوسط در دست یک راوی بد تبدیل شود.»
خانم موندال همچنین به طنز جایگزینی هوش مصنوعی با نیروی انسانی اشاره کرد و گفت که حتی با ارزان‌تر شدن فرآیندهای تولید و ارزان شدن کتاب‌ها، مردم شغل خود را از دست می‌دهند.
وی اشاره کرد: «من می‌توانم ببینم مطبوعات کوچک و نویسندگان به حاشیه رانده شده چگونه می‌توانند از نیروی کار هوش مصنوعی سود ببرند، و من از آنها به خاطر استفاده از این فرصت کینه‌ای ندارم. ما نباید انتظار داشته باشیم که عدالت اجتماعی بر دوش ضعیف‌ترین اعضای جامعه ما بیاید. این نویسندگانی مانند من هستند که می‌توانند درمورد این موضوع موضع بگیرند و حرفه خود را از دست ندهند.»
خودکشی از رزیدنتها به پزشکان رسیده؛ چرا دکتر سمیرا آلسعیدی خودکشی کرد؟/ «خودکشی پزشکان بهمثابه یک انتحار اجتماعی است»