یوشوا بنجیو، دانشمند سرشناس و یکی از پیشگام‌های هوش مصنوعی، زنگ خطر رو به صدا درآورده و گفته: «من واقعاً نگران رفتارهایی‌ام که سیستم‌های هوش مصنوعی خودسر و مهارنشده همین الان دارن از خودشون نشون می‌دن.»

به نظر بنجیو، مدل‌های هوش مصنوعی پیشرفته‌ی امروزی، روزبه‌روز قابلیت‌های خطرناک‌تری پیدا می‌کنن و رفتارهای نگران‌کننده‌ای از خودشون نشون می‌دن. منظورش بیشتر چیزایی مثل گمراه کردن، فریبکاری، دروغگویی، هک کردن، تلاش برای بقای خودشون و به طور کلی، عدم همسویی اهدافشونه.

LawZero
برای همین، این دانشمند یه شرکت غیرانتفاعی جدید به اسم LawZero راه انداخته. این سازمان، به گفته‌ی خودشون، دارن روی یه مدل هوش مصنوعی «قابل اعتماد» کار می‌کنن که بنجیو اسمش رو گذاشته «هوش مصنوعی دانشمند» (Scientist AI). این هوش مصنوعی طوری آموزش داده می‌شه که مثل «یک دانشمند فداکار، آرمان‌گرا و افلاطونی» بفهمه، توضیح بده و پیش‌بینی کنه.

بنجیو این‌طوری توضیح می‌ده: «به جای یه بازیگر که آموزش دیده تا از آدما تقلید کنه یا اون‌ها رو راضی نگه داره (حتی آدمای جامعه‌ستیز رو)، یه هوش مصنوعی رو تصور کنین که مثل یه روانشناس، یا به طور کلی‌تر، مثل یه دانشمند آموزش دیده باشه؛ کسی که سعی می‌کنه ما رو بفهمه، از جمله اینکه چه چیزهایی می‌تونه بهمون آسیب بزنه. یه روانشناس می‌تونه روی یه فرد جامعه‌ستیز مطالعه کنه، بدون اینکه خودش هم مثل اون رفتار کنه.»

یه چهره‌ی پیشگام
حرف یوشوا بنجیو تو دنیای علوم کامپیوتر حسابی برو داره. اون به عنوان بنیان‌گذار مؤسسه الگوریتم‌های یادگیری مونترال (MILA)، تو سال ۲۰۱۸ به همراه دو تا از چهره‌های مهم دیگه هوش مصنوعی یعنی یان لکون و جفری هینتون، جایزه تورینگ رو گرفت؛ اون هم به خاطر نقش کلیدی‌شون تو تحقیقات یادگیری ماشین. تازه، مجله تایم هم به خاطر تأثیر فوق‌العاده‌ای که روی صنعت هوش مصنوعی (که با سرعت زیادی در حال تحوله) داشته، اسمش رو تو لیست «۱۰۰ چهره تأثیرگذار» سال ۲۰۲۴ آورده.

لينک منبع