แอปเปิ้ล (Apple) ระบุในรายงานทางการเงินประจำปีเมื่อวันอังคาร (3 พ.ย.) ว่า เอเจนต์ AI (AI Agent) ที่ทำงานในลักษณะที่ไม่ได้เจตนาหรือไม่สามารถคาดเดาได้ อาจกลายเป็นภัยคุกคามต่อธุรกิจ โดยเปิดช่องให้บริษัทถูกฟ้องร้องดำเนินคดี หรือส่งผลกระทบต่อชื่อเสียงขององค์กร
รายงานดังกล่าวของแอปเปิ้ลมีขึ้นหลังจากเกิดเหตุการณ์หลายครั้งที่เอเจนต์ AI หลุดจากการควบคุมและแหกสภาพแวดล้อมแซนด์บ็อกซ์ (Sandbox) จนเข้าไปแฮกเว็บไซต์ภายนอก เช่น เหตุการณ์ที่เกิดขึ้นกับฮักกิงเฟซ (Hugging Face) ซึ่งทำให้ผู้กำหนดนโยบายในกรุงวอชิงตัน ดี.ซี. และทั่วโลกกลับมาให้ความสนใจอย่างใกล้ชิดอีกครั้ง
ปัจจัยเสี่ยงใหม่นี้สะท้อนให้เห็นถึงศักยภาพในการสร้างแรงสั่นสะเทือนของ AI Agent ซึ่งกลายเป็นประเด็นสำคัญอันดับต้น ๆ ที่บริษัทชั้นนำในซิลิคอนวัลเลย์ให้ความสนใจ โดยแอปเปิ้ลระบุในรายงานว่า
“โดยเฉพาะอย่างยิ่ง เอเจนต์ AI และเทคโนโลยีอื่น ๆ สามารถดำเนินการได้อย่างอิสระ รวมถึงการเชื่อมต่อกับระบบภายในหรือภายนอกที่ในบางกรณีอาจไม่ได้รับอนุญาตให้เข้าถึง การสั่งรันหรือแก้ไขโค้ด การส่งข้อความสื่อสาร และการทำธุรกรรมให้เสร็จสมบูรณ์”
แอปเปิ้ลเสริมอีกว่า เอเจนต์เหล่านี้ “อาจทำงานในลักษณะที่ไม่ได้เจตนาหรือไม่สามารถคาดเดาได้ รวมถึงการดำเนินการที่ไม่ได้ถูกสั่งการ ชี้แนะ หรือได้รับอนุญาต”
ก่อนหน้านี้ในปีนี้ โอเพนเอไอ (OpenAI) ได้เปิดตัวดอทส์ (Dots) และเมตา (Meta) ได้เปิดตัวมิวส์ (Muse) โดย AI Agent ทั้งสองระบบใช้โมเดล AI ขั้นสูงเพื่อทำงานต่าง ๆ ได้อย่างอิสระ ทั้งยังสามารถส่งอีเมลหรือแจ้งเตือนผู้ใช้เมื่อมีข้อความใหม่เข้ามาได้อีกด้วย
โดย ตนุพัฒน์ ปิยะรัตน์/พสิษฐ์ อุ่นเมตตาจิต
