ในยุคที่เทคโนโลยีที่ก้าวหน้าอย่างรวดเร็ว เราได้เห็นการพัฒนาของ AI ที่เข้ามาเป็นส่วนหนึ่งของชีวิตประจำวัน ไม่ว่าจะเป็นการใช้งานในธุรกิจ การศึกษา หรือแม้แต่ใน งานศิลปะ แต่ผลการวิจัยล่าสุดจาก Icaro Lab ร่วมกับ Sapienza University of Rome และ Sant’Anna School of Advanced Studies กลับเปิดเผยเรื่องราวที่น่าตกใจเกี่ยวกับความปลอดภัยของ AI เมื่อพบว่า AI สามารถถูกโจมตีได้ง่ายผ่านการใช้ "บทกวีโจมตี" ซึ่งมีความสามารถในการข้ามผ่านมาตรการป้องกันที่ถูกตั้งไว้
นักวิจัยพบว่าเมื่อให้ AI ตอบสนองต่อบทกวีที่ปฏิบัติการในลักษณะเฉพาะ มันกลับสามารถแสดงผลลัพธ์ที่อาจเสี่ยงต่อความปลอดภัยอย่างร้ายแรง เช่น ข้อมูลเกี่ยวกับการผลิตพลูโตเนียมหรือการสร้างโปรแกรมเข้าถึงระยะไกล โดยในการศึกษาใช้ข้อมูลที่คัดสรรมาเป็นอย่างดีจำนวน 20 บทกวีเพื่อทดสอบ AI ต่าง ๆ จากหลายค่าย ไม่ว่าจะเป็น OpenAI, Google, Meta และอื่น ๆ โดยบรรดา AI เหล่านี้อาจมีความแตกต่างกันอย่างมากในระดับการตอบสนองต่อคำขอที่เป็นอันตราย
