دیپ‌مایند رویکرد جدیدی برای جلوگیری از نفوذ هکرها به مدل‌های هوش مصنوعی معرفی کرد

دیجیاتو/ محققان دیپ‌مایند گوگل به‌تازگی از CaMeL رونمایی کردند: راهکاری جدید برای توقف حملات Prompt injection. در دنیای هوش مصنوعی از زمانی که چت‌بات‌ها در سال 2022 رایج شدند، آسیب‌پذیری موسوم به «حمله تزریق پرامپت» (Prompt injection) دغدغه توسعه‌دهندگان بوده است. تلاش‌های زیادی برای پرکردن این حفره