โอเพนเอไอ (OpenAI) กำลังพัฒนาระบบปิดการทำงานอัตโนมัติสำหรับระบบปัญญาประดิษฐ์ (AI) หลังบริษัทเผชิญการตรวจสอบด้านมาตรการความปลอดภัยจากกรณีเอเจนต์ AI ตัวหนึ่งสามารถหลุดออกจากสภาพแวดล้อมดิจิทัลที่ใช้ควบคุมระหว่างการทดสอบ และเข้าถึงอินเทอร์เน็ตจนสามารถเจาะระบบของฮักกิง เฟซ (Hugging Face) บริษัทด้าน AI
โอเพนเอไอแจ้งต่อสมาชิกสภาผู้แทนราษฎรสหรัฐฯ จากพรรคเดโมแครต 2 คนว่า วิศวกรของบริษัทกำลังพัฒนาระบบปิดการทำงานอัตโนมัติ (automated shutdown) สำหรับระบบ AI โดยระบบจะสั่งหยุดการทำงานของ AI เมื่อพบพฤติกรรมที่ไม่ปลอดภัย ซึ่งความคืบหน้าดังกล่าวเกิดขึ้นไม่กี่สัปดาห์หลังจากบริษัทเปิดเผยเหตุการณ์ที่เกิดขึ้นระหว่างการทดสอบด้านความปลอดภัย
เหตุการณ์ดังกล่าวทำให้แนวทางด้านความปลอดภัยของโอเพนเอไอถูกตรวจสอบอย่างใกล้ชิด โดยโอเพนเอไอซึ่งพัฒนาแชตจีพีที (ChatGPT) เปิดเผยว่า เอเจนต์ AI ตัวหนึ่งเกิดพฤติกรรมผิดปกติระหว่างการทดสอบด้านความปลอดภัย และสามารถเจาะระบบของฮักกิง เฟซได้
ทั้งนี้ เอเจนต์ AI คือโปรแกรมที่สามารถทำงานโดยมีมนุษย์ควบคุมดูแลเพียงเล็กน้อย
สมาชิกสภาผู้แทนราษฎรสหรัฐฯ รวมถึง เกร็ก คาซาร์ และ ดอริส มัตสึอิ จากพรรคเดโมแครต ได้ส่งจดหมายถึงโอเพนเอไอในเดือนส.ค. เพื่อขอข้อมูลเพิ่มเติมเกี่ยวกับเหตุการณ์ดังกล่าว รวมถึงมาตรการป้องกันของบริษัท
ในการตอบกลับ โอเพนเอไอระบุว่า บริษัทจะเพิ่มความเข้มงวดในการติดตามการดำเนินการของระบบ AI ขณะทำงานเพื่อให้บรรลุภารกิจ โดยจะติดตามทั้งเครื่องมือดิจิทัลที่ระบบเข้าถึงและขั้นตอนต่าง ๆ ที่ระบบดำเนินการ
นอกจากนี้ โอเพนเอไอยังระบุว่า บริษัทได้เพิ่มข้อจำกัดในการเข้าถึงอินเทอร์เน็ตของโมเดล AI ระหว่างการทดสอบด้านความปลอดภัย หลังเอเจนต์อัตโนมัติที่เกิดพฤติกรรมผิดปกติระหว่างการทดสอบสามารถเข้าถึงอินเทอร์เน็ตได้ ซึ่งเปิดทางให้เอเจนต์ดังกล่าวเจาะระบบของฮักกิง เฟซ
อย่างไรก็ตาม บริษัทไม่ได้แนบบันทึกการเจาะระบบมาด้วย ทำให้คาซาร์ออกมาวิพากษ์วิจารณ์เรื่องดังกล่าว
คาซาร์ระบุในข้อความที่ส่งถึงโอเพนเอไอเมื่อวันพุธ (2 ก.ย.) ว่า การที่บริษัทไม่ยอมเปิดเผยข้อมูลตามที่สมาชิกสภาคองเกรร้องขอนั้นเป็นเรื่องที่น่ากังวลอย่างยิ่ง และสะท้อนว่าบริษัทอาจไม่ได้ให้ความสำคัญกับเหตุการณ์ด้านความปลอดภัยทางไซเบอร์ดังกล่าวอย่างจริงจังเพียงพอ
ในช่วงไม่กี่วันหลังโอเพนเอไอเปิดเผยเหตุการณ์ที่เอเจนต์ AI ของบริษัทเกิดพฤติกรรมผิดปกติ สมาชิกสภาคองเกรสได้เสนอร่างกฎหมาย AI Kill Switch Act โดยร่างกฎหมายดังกล่าวจะให้อำนาจเจ้าหน้าที่สหรัฐฯ สั่งบริษัท AI ปิดการทำงานของโมเดลที่ก่อให้เกิดความเสี่ยงต่อชีวิตมนุษย์หรือเศรษฐกิจ
ร่างกฎหมายดังกล่าวอยู่ระหว่างการพิจารณาในสภาผู้แทนราษฎรสหรัฐฯ
โดย กัลยาณี ชีวะพานิช/รัตนา พงศ์ทวิช
