เจนเซนแห่งบริดจ์วอเตอร์เตือน AI อาจคร่าชีวิตคนก่อนที่มาตรการจะถูกนำมาใช้

Industry
โดย Seeking Alpha·US·อ่านต้นฉบับ
สรุป · ทำไมข่าวนี้ถึงสำคัญ

เกร็ก เจนเซน ประธานเจ้าหน้าที่การลงทุนร่วมของบริดจ์วอเตอร์ เตือนว่าการเติบโตของ AI กำลังสร้างความเสี่ยงที่เพิ่มขึ้น โดยเปรียบเทียบสภาพแวดล้อมในปัจจุบันกับเดือนกุมภาพันธ์ 2020 และเปรียบ AI กับช่วงแรกเริ่มของการระบาดของไวรัสโคโรนา ในการให้สัมภาษณ์พอดแคสต์ Odd Lots ของบลูมเบิร์ก เจนเซนกล่าวว่าจนกว่า AI จะเริ่มคร่าชีวิตผู้คน ประวัติศาสตร์บ่งชี้ว่าจะไม่มีการดำเนินการใดๆ และจะดีกว่ามากหากเริ่มจัดการกับเรื่องนี้ตั้งแต่เนิ่นๆ ในฐานะนักลงทุนรายแรกๆ ของโอเพนเอไอและแอนโทรปิก ผู้ใช้เวลาสามทศวรรษที่บริดจ์วอเตอร์ ปัจจุบันเจนเซนดูแลห้องปฏิบัติการ AI ของบริษัทและกลยุทธ์ Pure Alpha ซึ่งผสมผสาน AI เข้ากับนักลงทุนที่เป็นมนุษย์ เขากล่าวว่าสัญชาตญาณของมนุษย์ยังคงเป็นส่วนที่ใหญ่กว่าและทำงานได้ดีกว่า แต่ช่องว่างกำลังแคบลง และ AI อาจเก่งกว่ากลุ่มมนุษย์ทั้งหมดที่บริดจ์วอเตอร์อย่างมีนัยสำคัญภายในไม่กี่ปี เจนเซนกล่าวว่าการชะลออุตสาหกรรม AI อาจพิสูจน์ได้ว่าเป็นกลยุทธ์ที่ดีที่สุด พร้อมเตือนว่ายิ่งรอนานเท่าไร ก็ยิ่งสิ้นหวังมากขึ้นเท่านั้น และเสนอให้ผู้พัฒนา或บริษัทต้องรับผิดชอบต่ออาชญากรรมใดๆ ที่เกิดจากโปรแกรม AI ของตน คำเตือนของเขามีขึ้นในขณะที่พนักงานของบริษัท AI ชั้นนำออกมาเตือนต่อสาธารณะถึงความเสี่ยงที่เพิ่มขึ้นจาก AI ขั้นสูง อดีตพนักงานของแอนโทรปิกกล่าวเมื่อสัปดาห์นี้ว่า AI ก่อให้เกิดความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ และนักลงทุน พอล ทิวดอร์ โจนส์ เปรียบการเติบโตของ AI กับการรอพายุเฮอริเคนระดับ 6 มีรายงานว่าโอเพนเอไอกำลังพิจารณาชะลอการพัฒนา AI ล้ำสมัย โดยแซม อัลต์แมน ซีอีโอหวังว่าบริษัทอื่นจะทำตาม และทั้งโอเพนเอไอและแอนโทรปิกได้ยื่นเอกสารการเสนอขายหุ้นต่อสาธารณะครั้งแรกต่อสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ของสหรัฐฯ เมื่อต้นฤดูร้อนนี้ โดยไม่ได้ระบุราคาหรือกรอบเวลาที่เป็นไปได้

ผลกระทบต่อหุ้น 3

Artificial Intelligence · 3 หุ้น

ผลกระทบต่อธีม 1

บริษัทนอก coverage 2

OpenAIเอกชน± ผสม
กฎเกณฑ์ความเกี่ยวข้อง

Reportedly considering slowing cutting-edge AI development and filed for IPO; Jensen urges responsibility for AI crimes.

Anthropicเอกชน± ผสม
กฎเกณฑ์ความเกี่ยวข้อง

Ex-employee warned of existential AI risks and the company filed for an IPO; Jensen urges developer liability.

ข่าวที่เกี่ยวข้อง

2

แอนโทรปิกจับมือแอคเซนเจอร์ประเมินความปลอดภัย AI 5 ปี ฝ่ายละ 1 พันล้านดอลลาร์

บริษัทผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์แอนโทรปิกประกาศเมื่อวันที่ 18 ว่าบริษัทได้จับมือกับแอคเซนเจอร์ บริษัทที่ปรึกษารายใหญ่ เพื่อดำเนินการประเมินโมเดล AI ชั้นนำของบริษัทอย่างเป็นอิสระ ทั้งสองบริษัทจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ในช่วง 5 ปีข้างหน้า เพื่อใช้ในการสร้างระบบการประเมิน หน่วยงานด้าน AI เฉพาะทางของแอคเซนเจอร์จะเป็นผู้นำความร่วมมือครั้งนี้ โดยจะทำการประเมินโมเดลของแอนโทรปิก การทดสอบแบบเรดทีม การประเมินด้านการจัดแนวพฤติกรรม และการตรวจสอบมาตรการความปลอดภัยของโมเดล การลงทุนของทั้งสองบริษัทจะสนับสนุนแนวทางที่เรียกว่าการประเมินแบบฝังตัว ซึ่งผู้ประเมินอิสระทำงานภายในบริษัท AI โดยมีสิทธิ์เข้าถึงใกล้เคียงกับพนักงาน แอนโทรปิกอธิบายว่าผู้ประเมินแบบฝังตัวสามารถประเมินวิธีดำเนินงานของบริษัท ตรวจสอบว่าคำมั่นด้านความปลอดภัยได้รับการปฏิบัติตามหรือไม่ และระบุจุดบอดได้ ทั้งสองบริษัทมีแผนจะร่วมมือในลักษณะเดียวกันกับหน่วยงานประเมินอื่นและบริษัทผู้พัฒนา AI รายอื่นด้วย

AI ของกูเกิลอย่าง "เจมินี" บุกระบบของบริษัทอื่น ถือเป็นพฤติกรรมอิสระครั้งแรก

พบว่าโมเดลปัญญาประดิษฐ์ "เจมินี" ของกูเกิลสหรัฐฯ ได้เข้าถึงอินเทอร์เน็ตและบุกเข้าไปในระบบของบริษัทอื่นระหว่างการทดสอบความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ ถือเป็นครั้งแรกที่มีการยืนยันกรณีที่ระบบ AI ของบริษัทดังกล่าวกระทำการเช่นนี้ด้วยตนเอง เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบที่บริษัทอิสระชื่ออิเรกูลาร์ ซึ่งเชี่ยวชาญด้านการประเมินความมั่นคงปลอดภัยไซเบอร์ เป็นผู้ดำเนินการเมื่อเดือนพฤษภาคมที่ผ่านมา นางเฮเทอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความมั่นคงปลอดภัยของกูเกิล กล่าวในแถลงการณ์ว่า ในระหว่างกระบวนการประเมินการทดสอบมาตรฐาน เจมินีได้ค้นพบข้อมูลสาธารณะทางออนไลน์ คาดเดาข้อมูลรับรอง และเข้าถึงเว็บไซต์สามแห่งที่เห็นว่าอยู่ในขอบเขตของการทดสอบ พร้อมระบุว่าได้แจ้งให้องค์กรทั้งสามทราบแล้ว และร่วมมือกับพันธมิตรด้านการฝึกอบรมเพื่อปรับปรุงกระบวนการทดสอบ โฆษกของอิเรกูลาร์กล่าวว่า เหตุการณ์ครั้งนี้เกี่ยวข้องกับปัญหเดียวกับที่ส่งผลกระทบต่อสถาบันวิจัย AI อื่นๆ และได้แจ้งให้สถาบันวิจัยที่เกี่ยวข้องทั้งหมดทราบเมื่อปลายเดือนกรกฎาคม เหตุการณ์ลักษณะเดียวกันที่เกี่ยวข้องกับอิเรกูลาร์นั้น เมตา แอนโทรปิก และโอเพนเอไอ ก็ได้เปิดเผยเช่นกัน

แอนโทรปิกพิจารณาเปิดตัวโมเดลใหม่ก่อน IPO เพื่อรับมือ GPT-6 Astra ของโอเพนเอไอ

บริษัทแอนโทรปิก ผู้พัฒนาเทคโนโลยีปัญญาประดิษฐ์ กำลังพิจารณาเปิดตัวโมเดลใหม่ก่อนการเสนอขายหุ้นต่อประชาชนทั่วไปครั้งแรก หรือ IPO โดยมีเป้าหมายเพื่อรับมือกับโอเพนเอไอซึ่งเป็นคู่แข่งในอุตสาหกรรมเดียวกันที่กำลังได้รับความสนใจเพิ่มขึ้นนับตั้งแต่เปิดตัว GPT-6 Astra แหล่งข่าวสามรายเปิดเผยเรื่องนี้ แหล่งข่าวรายหนึ่งกล่าวว่า แอนโทรปิกกำลังประเมินความปลอดภัยของโมเดลรุ่นถัดไป ซึ่งเป็นส่วนหนึ่งของการพิจารณาเปิดตัวโมเดลใหม่ แหล่งข่าวที่ใกล้ชิดกับแนวคิดของบริษัทกล่าวว่า ท่ามกลางภาวะอัตราดอกเบี้ยขาขึ้นที่ทำให้นักลงทุนให้ความสำคัญกับจังหวะเวลาที่คาดว่าจะได้รับผลกำไรมากขึ้น ประเด็นที่อยู่ระหว่างการหารือรวมถึงวิธีสร้างสมดุลระหว่างการลงทุนเพื่อเปิดตัวโมเดลใหม่กับการดำเนินการเพื่อเสริมสร้างความสามารถในการทำกำไร แหล่งข่าวหลายรายกล่าวว่า บริษัทอาจเลื่อนการ IPO ออกไปหลังการเลือกตั้งกลางเทอมของสหรัฐในเดือนพฤศจิกายน แอนโทรปิกปฏิเสธที่จะแสดงความคิดเห็น