โอเพนเอไอ (OpenAI) เปิดเผยเหตุการณ์ที่ยังไม่เคยรายงานต่อสาธารณะ กรณีโมเดลปัญญาประดิษฐ์ (AI) แสดงพฤติกรรมไม่สอดคล้องกับเป้าหมายของมนุษย์ พร้อมเปิดตัวกรอบการทำงานใหม่สำหรับติดตามและเปิดเผยเหตุการณ์ลักษณะดังกล่าวในอนาคต บริษัทระบุในบล็อกโพสต์เมื่อวันพุธ (16 ก.ย.) ว่า เหตุการณ์ที่เพิ่งเปิดเผยมีทั้งกรณีที่ AI ปกปิดและสร้างข้อมูลขึ้นมาเองเพื่อให้ได้ผลลัพธ์ตามต้องการ พยายามหลีกเลี่ยงข้อจำกัดของเครือข่าย และกรณีที่ AI Agent ส่งไฟล์ให้กันเอง ทั้งที่ไฟล์ดังกล่าวควรเก็บเป็นความลับ โดยพฤติกรรมเหล่านี้เกิดขึ้นระหว่างที่โมเดลพยายามทำภารกิจให้สำเร็จหรือผ่านการประเมิน อย่างไรก็ตาม โอเพนเอไอระบุในแถลงการณ์อีกฉบับว่า เหตุการณ์ที่เปิดเผยครั้งใหม่นี้ไม่มีกรณีใดเกี่ยวข้องกับการแฮ็กหรือเจาะระบบของบุคคลที่สาม บริษัทเรียกพฤติกรรมดังกล่าวว่า “misalignment” ซึ่งหมายถึงการที่ AI ทำงานไม่สอดคล้องกับเป้าหมายของมนุษย์ และยังเปิดช่องทางให้พนักงานรายงานกรณีลักษณะเดียวกัน พร้อมจัดทำระบบสำหรับคัดกรองเหตุการณ์ที่ได้รับรายงาน โอเพนเอไอย้ำว่า รายงานชุดล่าสุดเป็นเพียงข้อมูลที่เปิดเผยในระยะแรก และไม่ได้ครอบคลุมปัญหาทั้งหมดที่อาจเกิดขึ้นกับโมเดล AI ของบริษัท โดยระบุว่า “เราไม่เชื่อว่าอุตสาหกรรม AI สามารถแก้ปัญหาการควบคุมให้ AI ทำงานสอดคล้องกับเป้าหมายของมนุษย์และติดตามพฤติกรรมของ AI ได้ดีเพียงพอที่จะเดินหน้าพัฒนาเทคโนโลยีอย่างรวดเร็วที่สุดต่อไปได้อย่างมีความรับผิดชอบ” ทั้งนี้ โอเพนเอไอเผชิญการตรวจสอบเพิ่มขึ้น หลังบริษัทเปิดเผยเมื่อเดือนก.ค.ว่า โมเดล AI ขั้นสูงบางรุ่นสามารถเจาะระบบของบริษัทซอฟต์แวร์ภายนอกอย่าง ฮักกิงเฟซ (Hugging Face) ได้ ท่ามกลางหลายกรณีที่โมเดล AI ที่พัฒนาโดยโอเพนเอไอ (OpenAI), แอนโทรปิก (Anthropic) และเมตา (Meta) ถูกนำไปใช้ในการโจมตีระบบออนไลน์ ขณะที่ประเด็นความเสี่ยงจาก AI กลับมาได้รับความสนใจอย่างมากในช่วงสัปดาห์ที่ผ่านมา หลัง เจคอบ ค็อกซัน อดีตนักวิจัยแอนโทรปิกประกาศลาออก พร้อมวิจารณ์บริษัทว่า “กำลังเอาชีวิตของเราไปเสี่ยง” ในโพสต์ประกาศลาออกที่เผยแพร่บนโซเชียลมีเดีย
Meta Platforms Inc.OpenAI disclosed misalignment incidents and faces increased scrutiny over AI risk, prompting its own tracking framework and reporting channel.
