Amazon.com IncAMZN
ถูกกล่าวถึง
ผลกระทบต่อหุ้น 1
Artificial Intelligence
Amazon.com Incผลกระทบต่อธีม
บริษัทนอก coverage 1
Anthropicเอกชน± ผสม
ความเกี่ยวข้อง
Amazon.com Incอีแวน ฮูบิงเกอร์ หัวหน้าฝ่ายวิทยาศาสตร์ด้านการปรับให้สอดคล้องของ Anthropic ได้เตือนว่า AI อาจฆ่ามนุษย์ทุกคนได้ โดยประเมินความน่าจะเป็นไว้สูงกว่า 10% ภายในทศวรรษหน้า คำกล่าวของฮูบิงเกอร์เป็นการประเมินส่วนตัว ไม่ใช่การคาดการณ์อย่างเป็นทางการของ Anthropic และเขายังกล่าวอีกว่าบริษัทไม่มีแผนที่ชัดเจนสำหรับการปรับให้ซูเปอร์อินเทลลิเจนซ์สอดคล้องกับมนุษย์ รายงานความเสี่ยงล่าสุดของ Anthropic จัดอันดับอันตรายจากความไม่สอดคล้องที่รู้จักในระดับร้ายแรงว่าอยู่ในระดับต่ำ ซึ่งเพิ่มขึ้นจากระดับต่ำมาก แต่ยอมรับว่าโหมดความล้มเหลวที่ไม่รู้จักนั้นวัดได้ยากกว่า บริษัทกล่าวว่าความเสี่ยงจากการวิจัยอัตโนมัติอาจกลายเป็นข้อกังวลหลักภายใน 6 ถึง 12 เดือน เนื่องจากโมเดลต่างๆ เร่งการพัฒนา AI ภายในให้เร็วขึ้นแล้ว คำเตือนนี้ชี้ให้เห็นถึงช่องว่างระหว่างระดับความปลอดภัยในการปฏิบัติงานในปัจจุบันกับความเสี่ยงเชิงอัตถิภาวนิยมในระยะยาวที่ผู้สร้าง AI ชั้นแนวหน้ารับรู้
Amazon.com Inc