เมื่อวันอังคารที่ผ่านมา Meta บริษัทแม่ของ Facebook ได้เปิดตัวชุดเครื่องมือป้องกัน AI แบบโอเพ่นซอร์สและเทคโนโลยีใหม่หลากหลายรายการ เพื่อเสริมความปลอดภัยด้านไซเบอร์และเพิ่มประสิทธิภาพในการดำเนินงานด้านความปลอดภัยขององค์กร
เครื่องมือใหม่ที่เปิดให้ใช้งานสำหรับชุมชนโอเพ่นซอร์ส ได้แก่ Llama Guard 4, LlamaFirewall และ Llama Prompt Guard 2 โดย Llama Guard 4 เป็นระบบป้องกันที่ครอบคลุมทั้งข้อความและภาพ และสามารถใช้งานผ่าน Llama API ที่เพิ่งเปิดให้พรีวิว LlamaFirewall เป็นเครื่องมือรักษาความปลอดภัยแบบใหม่ที่ช่วยตรวจจับและป้องกัน prompt injection, โค้ดที่ไม่ปลอดภัย และการใช้งานปลั๊กอินที่เสี่ยง ส่วน Llama Prompt Guard 2 และรุ่นย่อย 22M ได้รับการพัฒนาให้ตรวจจับการเจลเบรกและการโจมตีผ่านพรอมต์ได้แม่นยำยิ่งขึ้น พร้อมประหยัดพลังประมวลผลและลดความหน่วงเวลา
และนี่คือตารางสำหรับประเภทและคุณสมบัติของเครื่องมือป้องกัน AI จาก Meta
| เครื่องมือ | ประเภท | คุณสมบัติหลัก | จุดเด่นเฉพาะ | เหมาะสำหรับ |
|---|---|---|---|---|
| Llama Guard 4 | ระบบป้องกันมัลติโหมด (Multimodal Safety Tool) | – ป้องกันเนื้อหาทั้งข้อความและภาพ – ตรวจจับเนื้อหาไม่เหมาะสมหรือเสี่ยง | – รองรับหลายรูปแบบข้อมูล (text + image) – พร้อมใช้งานผ่าน Llama API | นักพัฒนา AI ที่ต้องการป้องกันความเสี่ยงหลายมิติในการใช้งานโมเดล |
| LlamaFirewall | ระบบควบคุมและกรองความปลอดภัยของ AI | – ตรวจจับและป้องกัน prompt injection – ป้องกันโค้ดอันตราย – ตรวจสอบการใช้งานปลั๊กอิน | – ทำงานร่วมกับ guard models อื่น ๆ ได้ – ทำหน้าที่คล้าย firewall สำหรับ AI | ทีม DevOps หรือนักพัฒนาที่ดูแลระบบ AI เชิงโครงสร้าง |
| Llama Prompt Guard 2 | โมเดลจำแนกประเภทพรอมต์ (Prompt Classifier) | – ตรวจจับ prompt injection และ jailbreak – มีเวอร์ชัน 22M ที่ประมวลผลเร็ว | – ปรับปรุงความแม่นยำจากรุ่นก่อน – รุ่น 22M ใช้ทรัพยากรน้อย เหมาะกับ real-time | ระบบที่ต้องการความเร็วในการตรวจจับความเสี่ยงจากผู้ใช้ปลายทาง |
นอกจากนี้ Meta ยังได้เปิดตัว CyberSOC Eval และ AutoPatchBench ซึ่งเป็นเครื่องมือสำหรับประเมินความสามารถของระบบ AI ด้านความปลอดภัย โดยเป็นส่วนหนึ่งของชุดเกณฑ์มาตรฐานใหม่ CyberSec Eval 4 อีกหนึ่งไฮไลต์สำคัญคือการเปิดตัว Llama Defenders Program ซึ่งช่วยให้องค์กรและนักพัฒนาเข้าถึงโซลูชันด้านความปลอดภัยได้ง่ายขึ้น
Meta ยังได้พรีวิวเทคโนโลยีใหม่ชื่อว่า Private Processing ซึ่งใช้ AI เพื่อสรุปหรือปรับแต่งข้อความใน WhatsApp โดยยืนยันว่า ข้อความของผู้ใช้จะยังคงเป็นความลับ และ ทั้ง Meta และ WhatsApp ไม่สามารถเข้าถึงเนื้อหาดังกล่าวได้
Meta ระบุว่า “เรากำลังทำงานร่วมกับชุมชนด้านความปลอดภัยเพื่อทดสอบและพัฒนาสถาปัตยกรรมของเรา และจะพัฒนา Private Processing อย่างเปิดเผย ร่วมกับนักวิจัย ก่อนจะเปิดให้ใช้งานจริงในผลิตภัณฑ์”
รายละเอียด – SCW
