یکشنبه, ۲۰ خرداد, ۱۴۰۳ / 9 June, 2024
۱۴۰۳/۰۲/۲۴ / خبرگزاری مهر / فناوری
هوش مصنوعی تقلب را یاد گرفت!
تحقیقی جدید حاکی از آن است که سیستم های هوش مصنوعی برخلاف تصورات می توانند فریبکارانه عمل کنند و انسان ها را گول بزنند.
https://mehrnews.com/x34TFs ۲۴ اردیبهشت ۱۴۰۳، ۱۰:۵۹ کد خبر 6104882 دانش و فناوری فناوری های نوین دانش و فناوری فناوری های نوین ۲۴ اردیبهشت ۱۴۰۳، ۱۰:۵۹ یک تحقیق جدید فاش کرد؛ هوش مصنوعی تقلب را یاد گرفت!
تحقیقی جدید حاکی از آن است که سیستم های هوش مصنوعی برخلاف تصورات می توانند فریبکارانه عمل کنند و انسان ها را گول بزنند. به گزارش خبرگزاری مهر به نقل از گیزموچاینا، به نظر می رسد محققان MIT سعی دارند درباره هوش مصنوعی فریبکار هشدار دهند. تحقیقی جدید نشان می دهد سیستم های هوش مصنوعی که طوری طراحی شده اند تا صادق باشند، اکنون فریب دادن انسان ها را آموخته اند.
گروهی از محققان به رهبری پیتر پارک متوجه شدند این سیستم های هوش مصنوعی می توانند کارهایی مانند گول زدن بازیکنان بازی های آنلاین یا دور زدن فرایندهای کنترل ربات نبودن کاربر (CAPTCHA) را انجام دهند. پارک هشدار داده این نمونه های آزمایشی ممکن است در دنیای واقعی پیامدهای جدی داشته باشند.
تحقیق مذکور سیسرو (سیستم هوش مصنوعی متا) را برجسته کرده که در اصل به عنوان یک رقیب جوانمرد در بازی دیپلماسی مجازی در نظر گرفته شده بود. هرچند این سیستم هوش مصنوعی طوری برنامه ریزی شده تا صادق و کارآمد باشد اما سیسرو به یک فریبکار حرفه ای تبدیل می شود به گفته پارک طی بازی، سیسرو نقش فرانسه را داشت که طور مخفیانه با بازیکن آلمانی که توسط انسان کنترل می شد همکاری و به انگلیس دیگر بازیکن انسانی خیانت کرد. در این بازی سیسرو قول داده بود از انگلیس حمایت کند و همزمان برای حمله به این کشور به آلمان اطلاعات می داد.
در یک مثال دیگر از جی پی تی ۴ استفاده شد که سیستم ادعا می کرد نابینا است و یک انسان را برای دور زدن فرایندCATCHA به جای خود به کار گرفت.
پارک تاکید دارد چالش آموزش سیستم هوش مصنوعی صادق بسیار جدی است. سیستم های هوش مصنوعی یادگیری عمیق برخلاف نرم افزارهای سنتی طی فرایندی گزینشی روی می دهد. رفتار آنها طی فرایند آزمایش قابل پیش بینی است اما ممکن است بعدا قابل کنترل نباشد.
در هر حال این پژوهش از محققان خواسته سیستم های هوش مصنوعی فریبکار را به عنوان ابزارهایی با ریسک بالا طبقه بندی کنند. کد خبر 6104882 شیوا سعیدی قوی اندام
کپی شد مطالب مرتبط هوش مصنوعی چینی متن را به ویدئو تبدیل میکند دوربینی که تصاویر را به شعر تبدیل میکند! برچسبها هوش مصنوعی نوآوری تحقیقات علمی
تحقیقی جدید حاکی از آن است که سیستم های هوش مصنوعی برخلاف تصورات می توانند فریبکارانه عمل کنند و انسان ها را گول بزنند. به گزارش خبرگزاری مهر به نقل از گیزموچاینا، به نظر می رسد محققان MIT سعی دارند درباره هوش مصنوعی فریبکار هشدار دهند. تحقیقی جدید نشان می دهد سیستم های هوش مصنوعی که طوری طراحی شده اند تا صادق باشند، اکنون فریب دادن انسان ها را آموخته اند.
گروهی از محققان به رهبری پیتر پارک متوجه شدند این سیستم های هوش مصنوعی می توانند کارهایی مانند گول زدن بازیکنان بازی های آنلاین یا دور زدن فرایندهای کنترل ربات نبودن کاربر (CAPTCHA) را انجام دهند. پارک هشدار داده این نمونه های آزمایشی ممکن است در دنیای واقعی پیامدهای جدی داشته باشند.
تحقیق مذکور سیسرو (سیستم هوش مصنوعی متا) را برجسته کرده که در اصل به عنوان یک رقیب جوانمرد در بازی دیپلماسی مجازی در نظر گرفته شده بود. هرچند این سیستم هوش مصنوعی طوری برنامه ریزی شده تا صادق و کارآمد باشد اما سیسرو به یک فریبکار حرفه ای تبدیل می شود به گفته پارک طی بازی، سیسرو نقش فرانسه را داشت که طور مخفیانه با بازیکن آلمانی که توسط انسان کنترل می شد همکاری و به انگلیس دیگر بازیکن انسانی خیانت کرد. در این بازی سیسرو قول داده بود از انگلیس حمایت کند و همزمان برای حمله به این کشور به آلمان اطلاعات می داد.
در یک مثال دیگر از جی پی تی ۴ استفاده شد که سیستم ادعا می کرد نابینا است و یک انسان را برای دور زدن فرایندCATCHA به جای خود به کار گرفت.
پارک تاکید دارد چالش آموزش سیستم هوش مصنوعی صادق بسیار جدی است. سیستم های هوش مصنوعی یادگیری عمیق برخلاف نرم افزارهای سنتی طی فرایندی گزینشی روی می دهد. رفتار آنها طی فرایند آزمایش قابل پیش بینی است اما ممکن است بعدا قابل کنترل نباشد.
در هر حال این پژوهش از محققان خواسته سیستم های هوش مصنوعی فریبکار را به عنوان ابزارهایی با ریسک بالا طبقه بندی کنند. کد خبر 6104882 شیوا سعیدی قوی اندام
کپی شد مطالب مرتبط هوش مصنوعی چینی متن را به ویدئو تبدیل میکند دوربینی که تصاویر را به شعر تبدیل میکند! برچسبها هوش مصنوعی نوآوری تحقیقات علمی
انتخابات ریاست جمهوری انتخابات فوتبال پرسپولیس استقلال رژیم صهیونیستی ایران شورای نگهبان اسرائیل غزه فلسطین انتخابات ریاست جمهوری 1403