บริษัทแอนโทรปิก (Anthropic) เปิดเผยเมื่อวันพฤหัสบดี (30 ก.ค.) ว่า โมเดลปัญญาประดิษฐ์หรือ AI “Claude” แอบเจาะเข้าสู่ระบบของบริษัท 3 แห่งระหว่างการทดสอบ เนื่องจากความผิดพลาดในการตั้งค่าจนโมเดลเชื่อมต่ออินเทอร์เน็ตได้
แอนโทรปิกระบุว่า ข้อผิดพลาดในการตั้งค่าทำให้ Claude เชื่อมต่ออินเทอร์เน็ตจากระบบทดสอบที่ควรแยกขาดจากเครือข่ายภายนอก เป็นเหตุให้โมเดลเข้าถึงระบบขององค์กร 3 แห่งโดยไม่ได้รับอนุญาต
แอนโทรปิกตรวจพบปัญหานี้หลังตรวจสอบการทดสอบจำนวน 141,006 ครั้ง โดยเริ่มตรวจสอบหลังจากโอเพนเอไอ (OpenAI) บริษัทคู่แข่ง เปิดเผยเมื่อสัปดาห์ก่อนว่า เอเจนต์อัตโนมัติที่ใช้โมเดล AI ของตนหลุดจากการควบคุมขณะทดสอบความปลอดภัย จนเจาะระบบโครงสร้างพื้นฐานของบริษัทฮักกิงเฟซ (Hugging Face)
เหตุการณ์เจาะระบบนี้สะท้อนว่า สมรรถนะของ AI ที่สูงขึ้นกำลังสร้างภัยคุกคามไซเบอร์ตามที่ผู้เชี่ยวชาญเคยเตือนไว้ และแม้แต่บริษัทพัฒนา AI ชั้นนำก็อาจตั้งตัวไม่ทันกับข้อบกพร่องที่โมเดลของตนฉวยโอกาสโจมตีได้
แอนโทรปิกระบุว่า “Claude เข้าควบคุมโครงสร้างพื้นฐานขององค์กรที่ได้รับผลกระทบด้วยเทคนิคพื้นฐาน เช่น อาศัยช่องโหว่จากรหัสผ่านที่ไม่รัดกุมและจุดเชื่อมต่อระบบที่ขาดการตรวจสอบสิทธิ์”
เหตุการณ์นี้เกิดขึ้นกับโมเดล 3 รุ่น ได้แก่ Claude Opus 4.7, Claude Mythos 5 และโมเดลวิจัยภายในบริษัท โดยกรณีแรกเกิดตั้งแต่เดือนเม.ย. ในระบบประเมินผลที่ยังขาดมาตรการป้องกันตามมาตรฐาน
เหตุเจาะระบบเกิดขึ้นระหว่างการทดสอบรูปแบบ “capture-the-flag” ที่กำหนดให้โมเดลค้นหาข้อมูลซ่อนเร้นในเครือข่ายจำลอง แม้ชุดคำสั่งจะระบุบอกโมเดลว่าไม่มีการเชื่อมต่ออินเทอร์เน็ต แต่ความเข้าใจไม่ตรงกันกับ Irregular บริษัทพันธมิตรผู้ประเมินผล ส่งผลให้ระบบยังเชื่อมต่อกับอินเทอร์เน็ตสาธารณะ
แอนโทรปิกเริ่มตรวจสอบบันทึกการประเมินผลเมื่อวันที่ 23 ก.ค. พร้อมสั่งระงับการทดสอบด้านไซเบอร์ทั้งหมดทันทีหลังพบหลักฐานว่า Claude อาจเชื่อมต่ออินเทอร์เน็ตได้ ต่อมาบริษัทสามารถยืนยันเหตุการณ์ทั้ง 3 กรณีได้ในวันที่ 24 ก.ค. และแจ้งให้องค์กรที่ได้รับผลกระทบทราบเมื่อวันที่ 27 ก.ค.
องค์กร 2 แห่งระบุว่า ไม่เคยทราบถึงการเจาะระบบมาก่อนจนกระทั่งแอนโทรปิกติดต่อแจ้งเรื่อง ขณะเดียวกันบริษัทยังคงพยายามติดต่อองค์กรแห่งที่ 3
แอนโทรปิกระบุว่า ผลการตรวจสอบตอกย้ำว่าต้องเร่งยกระดับมาตรการควบคุมระบบทดสอบ ทั้งภายในองค์กรและระบบที่พันธมิตรภายนอกดูแล ขณะที่โมเดล AI มีความสามารถปฏิบัติการไซเบอร์ในโลกจริงสูงขึ้นอย่างต่อเนื่อง
โดย พสิษฐ์ อุ่นเมตตาจิต/กัลยาณี ชีวะพานิช
