Alphabet Inc Class CGoogle disabled its AI feature in Earth due to misuse, highlighting regulatory and reputational risks for its generative AI products.

กูเกิลปิดฟีเจอร์ปัญญาประดิษฐ์ใหม่ในกูเกิล เอิร์ธ ภายในเวลาไม่ถึงหนึ่งวันหลังจากเปิดตัว หลังมีการสาธิตให้เห็นว่ามันสามารถสร้างภาพถ่ายดาวเทียมที่ดูสมจริงแต่เป็นภาพปลอมของสถานที่จริงได้ นิวยอร์กไทมส์รายงาน เครื่องมือทดลองนี้อนุญาตให้ผู้ใช้ปรับเปลี่ยนมุมมองทางอากาศโดยป้อนคำสั่งข้อความ และถูกนำไปใช้อย่างรวดเร็วในการสร้างภาพปลอมที่น่าเชื่อถือของภัยพิบัติ สถานที่ทางทหาร และเขตความขัดแย้ง นักวิจัยและนักข่าวแสดงให้เห็นว่าฟีเจอร์นี้สามารถสร้างภาพที่สมจริงของโรงไฟฟ้านิวเคลียร์ เมืองที่ถูกน้ำท่วม ป่าที่ถูกเผา และความเสียหายจากสงคราม ทำให้เกิดความกังวลว่าภาพถ่ายดาวเทียมปลอมอาจถูกเข้าใจผิดว่าเป็นหลักฐานจริง กูเกิลลบฟีเจอร์นี้เมื่อวันศุกร์ โดยระบุว่าผู้ใช้บางรายแชร์ภาพที่สร้างโดย AI ในลักษณะที่ละเมิดนโยบายของบริษัท และบริษัทวางแผนที่จะเพิ่มมาตรการป้องกันก่อนที่จะเปิดให้ใช้งานอีกครั้ง เหตุการณ์นี้เน้นย้ำถึงความท้าทายที่เพิ่มขึ้นสำหรับผู้พัฒนา AI ในขณะที่พวกเขาเร่งปล่อยฟีเจอร์ใหม่พร้อมกับหลีกเลี่ยงการใช้งานในทางที่ผิด และตอกย้ำความเสี่ยงด้านชื่อเสียงและกฎระเบียบที่มาพร้อมกับผลิตภัณฑ์ AI แบบสร้างสรรค์ที่สร้างขึ้นบนแพลตฟอร์มที่ได้รับความไว้วางใจอย่างกว้างขวาง
Alphabet Inc Class CGoogle disabled its AI feature in Earth due to misuse, highlighting regulatory and reputational risks for its generative AI products.