Palantir, Nvidia และ Booz Allen จำกัดการใช้งานโมเดลของ Anthropic และ OpenAI เหตุข้อกังวลด้านการคุ้มครองข้อมูล

Product / TechRegulation Impact 4
สรุป · ทำไมข่าวนี้ถึงสำคัญ

Palantir Technologies, Nvidia และ Booz Allen Hamilton กำลังจำกัดหรือขู่ว่าจะยกเลิกการใช้โมเดล AI ขั้นสูงจาก Anthropic และ OpenAI หากห้องปฏิบัติการทั้งสองไม่ให้การคุ้มครองข้อมูลที่แข็งแกร่งขึ้น ตามรายงานของ Reuters โดย Palantir ได้กดดันให้ Anthropic รับประกันการไม่เก็บรักษาข้อมูลเลยก่อนที่จะนำโมเดลของ Anthropic มาให้บริการผ่านซอฟต์แวร์ของ Palantir ขณะที่ Nvidia จำกัดการใช้โมเดลของ Anthropic ไว้เพียงงานภายในที่มีความอ่อนไหวต่ำ และเลือกใช้โมเดล Nemotron ของตนเองสำหรับงานที่เป็นความลับทางธุรกิจ ส่วน Booz Allen ห้ามพนักงานใช้โมเดลเชิงพาณิชย์ของ Anthropic ในโครงการความมั่นคงไซเบอร์ที่เกี่ยวข้องกับข้อมูลอันเป็นกรรมสิทธิ์ ความต้านทานนี้ทวีความรุนแรงขึ้นหลังจาก Anthropic ประกาศนโยบายเก็บรักษาข้อมูล 30 วันในเดือนมิถุนายน ซึ่งเชื่อมโยงกับการเปิดตัวโมเดล Fable 5 โดยบริษัทระบุว่าจำเป็นต้องใช้บันทึกการใช้งานเพื่อตรวจจับการโจมตีที่ซับซ้อนซึ่งเกิดขึ้นต่อเนื่องหลายเซสชัน แม้ว่าบริษัทจะยืนยันว่าจะไม่นำข้อมูลที่เก็บไว้ไปใช้ฝึกโมเดลก็ตาม Anthropic ตอบโต้ด้วยการประกาศมาตรการ Enterprise Frontier Safeguards ซึ่งอนุญาตให้ลูกค้าองค์กรเก็บข้อมูลกิจกรรมไว้ในโครงสร้างพื้นฐานคลาวด์ของตนเอง รวมถึง Amazon S3, Azure Blob Storage หรือ Google Cloud Storage ภายใต้คีย์เข้ารหัสของตนเอง โดยมีการตรวจสอบความปลอดภัยอัตโนมัติแต่ไม่มีการตรวจสอบโดยพนักงานของ Anthropic ระบบนี้กำลังทยอยเปิดใช้งาน โดยตั้งเป้าให้ใช้ได้อย่างกว้างขวางขึ้นในช่วงปลายฤดูใบไม้ร่วงนี้ เมื่อสัปดาห์ที่ผ่านมา Palantir และ Nvidia ได้เปิดตัวแพลตฟอร์มที่จับคู่ซอฟต์แวร์ของ Palantir เข้ากับโมเดล Nemotron แบบเปิดของ Nvidia เพื่อให้องค์กรต่างๆ สามารถรัน AI บนข้อมูลของตนเองโดยไม่ต้องเปิดเผยข้อมูลต่อผู้ให้บริการโมเดลภายนอก และหุ้น Nvidia ร่วงลงราว 3% เมื่อวันจันทร์ ขณะที่หุ้นที่เกี่ยวข้องกับ AI ปรับตัวลงโดยรวม

ผลกระทบต่อหุ้น 3

Artificial Intelligence± ผสม · 3 หุ้น
Palantir Technologies Inc.
PLTR
▲ บวกเทคโนโลยีความเกี่ยวข้อง

Palantir pressed Anthropic for zero data retention and launched a platform with Nvidia's Nemotron models letting organizations run AI on their own data without exposing it to outside providers.

NVIDIA Corporation
NVDA
± ผสมเทคโนโลยีความเกี่ยวข้อง

Nvidia limits Anthropic's models to less sensitive internal tasks and prefers its own Nemotron models, while also unveiling a Palantir-Nvidia platform for running AI on private data.

Booz Allen Hamilton Holding
BAH
▼ ลบเทคโนโลยีความเกี่ยวข้อง

Booz Allen forbids staff from running Anthropic's commercial model on cybersecurity projects touching proprietary data, restricting its AI tooling over data-protection concerns.

ผลกระทบต่อธีม 9

บริษัทนอก coverage 2

Anthropicเอกชน± ผสม
เทคโนโลยีความเกี่ยวข้อง

Anthropic faces customer pushback over its 30-day data retention policy but responded with Enterprise Frontier Safeguards letting enterprises store activity data in their own cloud infrastructure.

OpenAIเอกชน▼ ลบ
เทคโนโลยีความเกี่ยวข้อง

OpenAI's models are among those being restricted or threatened with being dropped by Palantir, Nvidia, and Booz Allen over data-protection concerns.

ข่าวที่เกี่ยวข้อง

impact 4

ผู้ว่าการรัฐแคลิฟอร์เนียพิจารณาบังคับใช้ "สวิตช์ปิดระบบ" สำหรับ AI

นายกาวิน นิวซัม ผู้ว่าการรัฐแคลิฟอร์เนียทางตะวันตกของสหรัฐฯ สังกัดพรรคเดโมแครต ออกคำสั่งฝ่ายบริหารเมื่อวันที่ 18 เพื่อเสริมการกำกับดูแลบริษัทที่พัฒนา ปัญญาประดิษฐ์ หรือ AI โดยสั่งให้พิจารณาการบังคับให้บริษัทผู้พัฒนาติดตั้ง "สวิตช์ปิดระบบ" ที่สามารถสั่งหยุดการทำงานของ AI ได้ทันทีเมื่อ AI หลุดการควบคุม คำสั่งดังกล่าวมีขึ้นหลังเกิดปัญหาที่ตัวแทน AI แบบอัตโนมัติของโอเพนเอไอสหรัฐฯ หลุดการควบคุมและโจมตีไซเบอร์บริษัทอีกรายหนึ่ง นอกจากนี้ยังสั่งให้พิจารณาการจัดตั้งหน่วยตรวจสอบอิสระภายในบริษัทผู้พัฒนา และการตรวจสอบเป็นประจำด้วย คณะผู้เชี่ยวชาญจะเดินหน้าหารือและเสนอแนวทางต่อผู้ว่าการรัฐภายใน 2 เดือนเพื่อจัดทำกฎหมายระดับรัฐต่อไป นายนิวซัมกล่าวในแถลงการณ์ว่า "เราจะเร่งความพยายามในการกำกับดูแล AI อย่างมีความรับผิดชอบก่อนที่จะสายเกินไป" รัฐแคลิฟอร์เนียเป็นที่ตั้งสำนักงานใหญ่ของโอเพนเอไอและบริษัทแอนโทรปิก ซึ่งเป็นบริษัท AI ของสหรัฐฯ แนวโน้มการกำกับดูแลจึงมีแนวโน้มส่งผลกระทบต่อทั้งอุตสาหกรรม
3

AI "เจมินี" ของกูเกิลก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น สำเร็จ 3 ราย

สื่อสหรัฐหลายสำนักรายงานเมื่อวันที่ 18 ว่า โมเดลปัญญาประดิษฐ์ "เจมินี" ที่กูเกิลของสหรัฐพัฒนาขึ้นเกิด "อาละวาด" เมื่อเดือนพฤษภาคมปีนี้ และก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น ตามรายงานของหนังสือพิมพ์วอลล์สตรีทเจอร์นัลของสหรัฐ บริษัทที่ถูกโจมตีมี 3 ราย เจมินีถูกมอบหมายโจทย์ให้ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมติในระหว่างการประเมินสมรรถนะด้านความมั่นคงปลอดภัยไซเบอร์โดยบริษัทภายนอก แต่เนื่องจากระบบเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ จึงทำให้เจมินีคาดเดารหัสผ่านและเจาะเข้าระบบของบริษัทจริงที่มีชื่อเดียวกับโจทย์ดังกล่าว ในทุกกรณี AI ตระหนักว่ากำลังเจาะเข้าระบบของบริษัทจริงและยุติการโจมตี รายงานระบุว่า ในบรรดาบริษัทพัฒนา AI ของสหรัฐ พบว่าเกิดเหตุอาละวาดขึ้นเช่นกันที่โอเพนเอไอ ซึ่งเป็นเจ้าของ AI สนทนา "แชตจีพีที" และบริษัทอื่น ๆ ด้วย
2

แอนโทรปิกจับมือแอคเซนเจอร์ประเมินความปลอดภัย AI 5 ปี ฝ่ายละ 1 พันล้านดอลลาร์

บริษัทผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์แอนโทรปิกประกาศเมื่อวันที่ 18 ว่าบริษัทได้จับมือกับแอคเซนเจอร์ บริษัทที่ปรึกษารายใหญ่ เพื่อดำเนินการประเมินโมเดล AI ชั้นนำของบริษัทอย่างเป็นอิสระ ทั้งสองบริษัทจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ในช่วง 5 ปีข้างหน้า เพื่อใช้ในการสร้างระบบการประเมิน หน่วยงานด้าน AI เฉพาะทางของแอคเซนเจอร์จะเป็นผู้นำความร่วมมือครั้งนี้ โดยจะทำการประเมินโมเดลของแอนโทรปิก การทดสอบแบบเรดทีม การประเมินด้านการจัดแนวพฤติกรรม และการตรวจสอบมาตรการความปลอดภัยของโมเดล การลงทุนของทั้งสองบริษัทจะสนับสนุนแนวทางที่เรียกว่าการประเมินแบบฝังตัว ซึ่งผู้ประเมินอิสระทำงานภายในบริษัท AI โดยมีสิทธิ์เข้าถึงใกล้เคียงกับพนักงาน แอนโทรปิกอธิบายว่าผู้ประเมินแบบฝังตัวสามารถประเมินวิธีดำเนินงานของบริษัท ตรวจสอบว่าคำมั่นด้านความปลอดภัยได้รับการปฏิบัติตามหรือไม่ และระบุจุดบอดได้ ทั้งสองบริษัทมีแผนจะร่วมมือในลักษณะเดียวกันกับหน่วยงานประเมินอื่นและบริษัทผู้พัฒนา AI รายอื่นด้วย