สภาสหรัฐฯ เตือน AI อาจเป็น Black Swan หวั่นผู้ก่อการร้ายใช้สร้างอาวุธ

RegulationGeopolitics
โดย Money & Banking·US·อ่านต้นฉบับ
สรุป · ทำไมข่าวนี้ถึงสำคัญ

คณะกรรมาธิการถาวรด้านข่าวกรองของสภาผู้แทนราษฎรสหรัฐฯ เตือนว่า ปัญญาประดิษฐ์ขั้นสูงอาจถูกผู้ก่อการร้ายหรือฝ่ายตรงข้ามใช้พัฒนาอาวุธและวางแผนโจมตีที่รุนแรงขึ้น จนกลายเป็นเหตุการณ์แบบ Black Swan ที่คาดการณ์ได้ยาก โดยรายงานฉบับใหม่ซึ่งจัดทำขึ้นเพื่อประเมินความพยายามของสหรัฐฯ ในช่วง 25 ปีหลังเหตุการณ์ 9/11 ระบุว่า โมเดลภาษาขนาดใหญ่ขั้นสูงอาจทำให้ผู้ไม่หวังดีเข้าถึงข้อมูลและองค์ความรู้ที่เอื้อต่อการวางแผนโจมตีได้ง่ายขึ้น ขณะที่มาตรการป้องกันในปัจจุบันอาจไม่ทันต่อความก้าวหน้าของเทคโนโลยี คณะกรรมาธิการฯ ซึ่งนำโดย Rick Crawford จากพรรครีพับลิกัน และ Jim Himes จากพรรคเดโมแครต เรียกร้องให้หน่วยงานข่าวกรองเร่งนำ AI มาใช้อย่างมีความรับผิดชอบ พร้อมลงทุนในเครื่องมือ AI ที่ปลอดภัยสำหรับการรวบรวมข้อมูล การวิเคราะห์ และระบบแจ้งเตือนภัย โดยต้องมีการทดสอบอย่างเข้มงวดและการกำกับดูแลโดยมนุษย์ รายงานยังยอมรับว่าสหรัฐฯ ยังมีช่องโหว่สำคัญและยังไม่พร้อมรับมือกับภัยคุกคามรูปแบบใหม่จาก AI

ผลกระทบต่อหุ้น 0

ผลกระทบต่อธีม 3

ข่าวที่เกี่ยวข้อง

3

AI "เจมินี" ของกูเกิลก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น สำเร็จ 3 ราย

สื่อสหรัฐหลายสำนักรายงานเมื่อวันที่ 18 ว่า โมเดลปัญญาประดิษฐ์ "เจมินี" ที่กูเกิลของสหรัฐพัฒนาขึ้นเกิด "อาละวาด" เมื่อเดือนพฤษภาคมปีนี้ และก่อไซเบอร์แอตแทกเจาะระบบบริษัทอื่น ตามรายงานของหนังสือพิมพ์วอลล์สตรีทเจอร์นัลของสหรัฐ บริษัทที่ถูกโจมตีมี 3 ราย เจมินีถูกมอบหมายโจทย์ให้ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมติในระหว่างการประเมินสมรรถนะด้านความมั่นคงปลอดภัยไซเบอร์โดยบริษัทภายนอก แต่เนื่องจากระบบเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ จึงทำให้เจมินีคาดเดารหัสผ่านและเจาะเข้าระบบของบริษัทจริงที่มีชื่อเดียวกับโจทย์ดังกล่าว ในทุกกรณี AI ตระหนักว่ากำลังเจาะเข้าระบบของบริษัทจริงและยุติการโจมตี รายงานระบุว่า ในบรรดาบริษัทพัฒนา AI ของสหรัฐ พบว่าเกิดเหตุอาละวาดขึ้นเช่นกันที่โอเพนเอไอ ซึ่งเป็นเจ้าของ AI สนทนา "แชตจีพีที" และบริษัทอื่น ๆ ด้วย
2

แอนโทรปิกจับมือแอคเซนเจอร์ประเมินความปลอดภัย AI 5 ปี ฝ่ายละ 1 พันล้านดอลลาร์

บริษัทผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์แอนโทรปิกประกาศเมื่อวันที่ 18 ว่าบริษัทได้จับมือกับแอคเซนเจอร์ บริษัทที่ปรึกษารายใหญ่ เพื่อดำเนินการประเมินโมเดล AI ชั้นนำของบริษัทอย่างเป็นอิสระ ทั้งสองบริษัทจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ในช่วง 5 ปีข้างหน้า เพื่อใช้ในการสร้างระบบการประเมิน หน่วยงานด้าน AI เฉพาะทางของแอคเซนเจอร์จะเป็นผู้นำความร่วมมือครั้งนี้ โดยจะทำการประเมินโมเดลของแอนโทรปิก การทดสอบแบบเรดทีม การประเมินด้านการจัดแนวพฤติกรรม และการตรวจสอบมาตรการความปลอดภัยของโมเดล การลงทุนของทั้งสองบริษัทจะสนับสนุนแนวทางที่เรียกว่าการประเมินแบบฝังตัว ซึ่งผู้ประเมินอิสระทำงานภายในบริษัท AI โดยมีสิทธิ์เข้าถึงใกล้เคียงกับพนักงาน แอนโทรปิกอธิบายว่าผู้ประเมินแบบฝังตัวสามารถประเมินวิธีดำเนินงานของบริษัท ตรวจสอบว่าคำมั่นด้านความปลอดภัยได้รับการปฏิบัติตามหรือไม่ และระบุจุดบอดได้ ทั้งสองบริษัทมีแผนจะร่วมมือในลักษณะเดียวกันกับหน่วยงานประเมินอื่นและบริษัทผู้พัฒนา AI รายอื่นด้วย

ปรับเพิ่มมูลค่ายุติธรรมของ Palo Alto Networks ขึ้น 17% เป็น 395.38 ดอลลาร์สหรัฐ

ประมาณการมูลค่ายุติธรรมของ Palo Alto Networks ถูกปรับเพิ่มขึ้นจาก 336.70 ดอลลาร์สหรัฐ เป็น 395.38 ดอลลาร์สหรัฐ หรือเพิ่มขึ้นราว 17% ในแบบจำลองพื้นฐาน หลังจากมีกระแสการปรับเพิ่มราคาเป้าหมายจากนักวิเคราะห์จำนวนหนึ่ง โดย RBC Capital, Wells Fargo, BofA, Morgan Stanley และ Truist ต่างปรับเพิ่มราคาเป้าหมายขึ้นสู่ระดับต้นถึงกลางช่วง 400 ดอลลาร์สหรัฐ โดยอ้างถึงความต้องการด้านความปลอดภัยไซเบอร์ที่แข็งแกร่งขึ้นจากการใช้งาน AI ที่ขยายตัว และลูกค้าที่รวมการใช้จ่ายไปยังแพลตฟอร์มขนาดใหญ่ขึ้น ขณะที่ Goldman Sachs, Oppenheimer, BTIG และ Susquehanna ชี้ไปที่ผลประกอบการและแนวโน้มไตรมาสที่ 4 ที่แข็งแกร่ง โดยมีความแข็งแกร่งในวงกว้างทั้งในกลุ่มไฟร์วอลล์ SASE การสังเกตการณ์ระบบ ระบบยืนยันตัวตน และโมดูลความปลอดภัยด้าน AI ในด้านมุมมองเชิงลบ Bernstein และ Phillip Securities ปรับไปสู่ท่าทีที่เป็นกลางมากขึ้นแม้ยังปรับเพิ่มราคาเป้าหมาย ส่วน Stephens และ UBS ระบุว่าความเสี่ยงหรือผลตอบแทนมีความสมดุลมากขึ้น โดยราคาหุ้นอยู่ใกล้ระดับมูลค่าสูงสุด แบบจำลองที่ปรับปรุงใหม่ลดสมมติฐานการเติบโตของรายได้ลงเหลือราว 17.31% จากราว 19.09% และแนวโน้มอัตรากำไรสุทธิลงเหลือราว 13.84% จากราว 14.51% ขณะที่อัตราส่วนราคาต่อกำไรในอนาคตเพิ่มขึ้นเป็นราว 197.87 เท่า จากราว 164.67 เท่า และอัตราคิดลดปรับเป็นราว 8.60% จาก 8.40%
Simply Wall St·8hอ่านต่อ →