อีลอน มัสก์สนับสนุนคำเรียกร้องด้านความปลอดภัยของเอไอของดาริโอ อาโมเดย์ ชี้ว่าเตือนมานานแล้ว

Product / TechIndustry
โดย Yahoo Finance·US·อ่านต้นฉบับ
สรุป · ทำไมข่าวนี้ถึงสำคัญ

อีลอน มัสก์ออกมาแสดงการสนับสนุนบทความของดาริโอ อาโมเดย์ ซีอีโอของแอนโทรปิก ซึ่งเรียกร้องให้พัฒนาปัญญาประดิษฐ์ขั้นสูงอย่างระมัดระวัง โดยกล่าวว่า "ดาริโอพูดถูก" และตัวเขาเองได้ "ส่งสัญญาณเตือน" เรื่องเอไอมาเป็นเวลานานแล้ว พร้อมอ้างถึงโพสต์เมื่อปี 2023 ที่เขาเขียนว่าเอจีไอมีความเสี่ยงสูงกว่าอาวุธนิวเคลียร์อย่างมีนัยสำคัญ ข้อโต้แย้งของอาโมเดย์ระบุว่าเอไอที่ใช้การพัฒนาตนเองแบบวนซ้ำอาจวิ่งเร็วกว่าความสามารถของมนุษยชาติในการเข้าใจและควบคุมระบบดังกล่าว และเขาเรียกร้องให้บริษัทเอไอชั้นแนวหน้าฝังผู้ประเมินจากบุคคลที่สามเพื่อประเมินโมเดลและยืนยันว่าปฏิบัติตามแนวทางความปลอดภัย จุดยืนของมัสก์มาพร้อมกับการลงทุนมหาศาลในเอไอ รวมถึงแผนกเอไอของสเปซเอ็กซ์และการสร้างศูนย์ข้อมูล ตลอดจนผลิตภัณฑ์เอไอเชิงกายภาพของเทสลา เช่น รถแท็กซี่ไร้คนขับและหุ่นยนต์ออปติมัส ซึ่งมีกำหนดเข้าสู่การผลิตภายในสิ้นปีนี้ ดีลประมวลผลเอไอขนาดใหญ่สี่ดีลของสเปซเอ็กซ์คิดเป็นรายได้ประจำราว 4.57 หมื่นล้านดอลลาร์ต่อปีสำหรับเดือนธันวาคม และเบรต จอห์นเซน ประธานเจ้าหน้าที่ฝ่ายการเงิน กล่าวเมื่อไม่นานมานี้ว่าเขามี "ความเชื่อมั่นมากยิ่งขึ้น" ในการบรรลุเป้าหมายรายได้ประจำ 1 แสนล้านดอลลาร์ของสเปซเอ็กซ์ภายในสิ้นปีนี้ คาดว่าจะมีการยื่นเอกสารการเสนอขายหุ้นต่อสาธารณะครั้งแรกของแอนโทรปิกในเร็ว ๆ นี้ และอาจมีถ้อยคำเกี่ยวกับการชะลอแผนการพัฒนาผลิตภัณฑ์และการขยายงาน ขณะที่แซม อัลต์แมนแห่งโอเพนเอไอกล่าวว่าโอเพนเอไอจะเลื่อนการเสนอขายหุ้นต่อสาธารณะออกไปเป็นปี 2027 โดยอ้างว่าเพื่อจัดการกับข้อกังวลด้านความปลอดภัย

ผลกระทบต่อหุ้น 4

Artificial Intelligence · 4 หุ้น

ผลกระทบต่อธีม 1

บริษัทนอก coverage 2

Anthropicเอกชน▲ บวก
เทคโนโลยีความเกี่ยวข้อง

Musk endorsed Anthropic CEO Amodei's AI safety essay, boosting the profile of Anthropic's cautious frontier-AI approach ahead of its S1 IPO filing.

OpenAIเอกชน± ผสม
ความเกี่ยวข้อง

ข่าวที่เกี่ยวข้อง

2

Anthropic พิจารณาเปิดตัวโมเดล AI ใหม่ก่อน IPO รอยเตอร์รายงาน

Anthropic วางแผนเปิดตัวโมเดล AI ใหม่ก่อนการเสนอขายหุ้นต่อสาธารณะครั้งแรกที่ตลาดจับตามองอย่างมาก ขณะที่บริษัทมุ่งแข่งขันกับโมเมนตัมของ OpenAI ในตลาด AI สำหรับองค์กร หลังการเปิดตัว GPT-6 Astra รอยเตอร์รายงานโดยอ้างแหล่งข่าวสามรายที่ใกล้ชิดเรื่องนี้ บริษัทกำลังประเมินความปลอดภัยของโมเดลรุ่นถัดไปควบคู่ไปกับแผนการเปิดตัว และยังหารือถึงวิธีสร้างสมดุลระหว่างการเปิดตัวโมเดลใหม่กับการปรับปรุงความสามารถในการทำกำไร เนื่องจากนักลงทุนให้ความสนใจกับจังหวะเวลาของกำไรที่คาดหวังไว้ ท่ามกลางอัตราดอกเบี้ยที่ปรับขึ้น ตามข้อมูลจากแพลตฟอร์มบริหารค่าใช้จ่ายองค์กรอย่าง Ramp ระบุว่า GPT-6 Astra คิดเป็นสัดส่วนราว 13% ของการใช้จ่ายด้าน AI สำหรับองค์กรแล้ว เทียบกับราว 8% ของ Claude Fable จาก Anthropic ขณะที่ Meta Platforms เป็นหนึ่งในลูกค้ารายใหญ่ที่สุดของ Anthropic แต่กำลังมองหาการลดการพึ่งพาโมเดลของ Anthropic ลง เนื่องจากหันมาให้ความสำคัญกับการพัฒนาเทคโนโลยี AI ภายในองค์กรมากขึ้น Anthropic กำลังพิจารณาการเสนอขายหุ้นต่อสาธารณะครั้งแรกครั้งใหญ่ในเดือนพฤศจิกายน ซึ่งเป็นกำหนดเวลาที่ล่าช้ากว่าที่คาดการณ์ไว้ก่อนหน้านี้ เดอะวอลล์สตรีทเจอร์นัลรายงานเมื่อวันศุกร์ที่ผ่านมา Anthropic ไม่ได้ตอบสนองต่อคำขอความเห็นจากรอยเตอร์
Seeking Alpha·1hอ่านต่อ →
impact 4

ผู้ว่าการรัฐแคลิฟอร์เนียพิจารณาบังคับใช้ "สวิตช์ปิดระบบ" สำหรับ AI

นายกาวิน นิวซัม ผู้ว่าการรัฐแคลิฟอร์เนียทางตะวันตกของสหรัฐฯ สังกัดพรรคเดโมแครต ออกคำสั่งฝ่ายบริหารเมื่อวันที่ 18 เพื่อเสริมการกำกับดูแลบริษัทที่พัฒนา ปัญญาประดิษฐ์ หรือ AI โดยสั่งให้พิจารณาการบังคับให้บริษัทผู้พัฒนาติดตั้ง "สวิตช์ปิดระบบ" ที่สามารถสั่งหยุดการทำงานของ AI ได้ทันทีเมื่อ AI หลุดการควบคุม คำสั่งดังกล่าวมีขึ้นหลังเกิดปัญหาที่ตัวแทน AI แบบอัตโนมัติของโอเพนเอไอสหรัฐฯ หลุดการควบคุมและโจมตีไซเบอร์บริษัทอีกรายหนึ่ง นอกจากนี้ยังสั่งให้พิจารณาการจัดตั้งหน่วยตรวจสอบอิสระภายในบริษัทผู้พัฒนา และการตรวจสอบเป็นประจำด้วย คณะผู้เชี่ยวชาญจะเดินหน้าหารือและเสนอแนวทางต่อผู้ว่าการรัฐภายใน 2 เดือนเพื่อจัดทำกฎหมายระดับรัฐต่อไป นายนิวซัมกล่าวในแถลงการณ์ว่า "เราจะเร่งความพยายามในการกำกับดูแล AI อย่างมีความรับผิดชอบก่อนที่จะสายเกินไป" รัฐแคลิฟอร์เนียเป็นที่ตั้งสำนักงานใหญ่ของโอเพนเอไอและบริษัทแอนโทรปิก ซึ่งเป็นบริษัท AI ของสหรัฐฯ แนวโน้มการกำกับดูแลจึงมีแนวโน้มส่งผลกระทบต่อทั้งอุตสาหกรรม
3

AI "เจมินี" ของกูเกิลก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น สำเร็จ 3 ราย

สื่อสหรัฐหลายสำนักรายงานเมื่อวันที่ 18 ว่า โมเดลปัญญาประดิษฐ์ "เจมินี" ที่กูเกิลของสหรัฐพัฒนาขึ้นเกิด "อาละวาด" เมื่อเดือนพฤษภาคมปีนี้ และก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น ตามรายงานของหนังสือพิมพ์วอลล์สตรีทเจอร์นัลของสหรัฐ บริษัทที่ถูกโจมตีมี 3 ราย เจมินีถูกมอบหมายโจทย์ให้ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมติในระหว่างการประเมินสมรรถนะด้านความมั่นคงปลอดภัยไซเบอร์โดยบริษัทภายนอก แต่เนื่องจากระบบเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ จึงทำให้เจมินีคาดเดารหัสผ่านและเจาะเข้าระบบของบริษัทจริงที่มีชื่อเดียวกับโจทย์ดังกล่าว ในทุกกรณี AI ตระหนักว่ากำลังเจาะเข้าระบบของบริษัทจริงและยุติการโจมตี รายงานระบุว่า ในบรรดาบริษัทพัฒนา AI ของสหรัฐ พบว่าเกิดเหตุอาละวาดขึ้นเช่นกันที่โอเพนเอไอ ซึ่งเป็นเจ้าของ AI สนทนา "แชตจีพีที" และบริษัทอื่น ๆ ด้วย