Người xem clip giả mạo giả mạo AI do AI tạo ra: Công nghệ dystopian của Google được công bố

VEO 3 đã ra mắt gần đây của Google đang tạo ra làn sóng với các khả năng tạo video AI tiên tiến, đặc biệt là trong việc tạo ra các clip chơi trò chơi Fortnite thực tế kỳ lạ. Công cụ này, được giới thiệu trong tuần này, có thể tạo ra các video giống như cuộc sống từ các lời nhắc văn bản đơn giản, hoàn chỉnh với âm thanh thực tế, đẩy ranh giới của những gì AI có thể đạt được trong sản xuất video.

VEO 3 đã gây ấn tượng với người dùng bằng cách sản xuất các video trò chơi Fortnite, hoàn thành với bình luận của một streamer giả, đủ thuyết phục để vượt qua như nội dung hợp pháp trên các nền tảng truyền thông xã hội như YouTube hoặc Twitch. Các clip này được tạo bằng cách sử dụng lời nhắc văn bản tối thiểu; Chẳng hạn, một lời nhắc gồm chín từ đã dẫn đến một video về một streamer chiến thắng một trận đấu chỉ với một chiếc pickaxe. Mặc dù các lời nhắc không đề cập rõ ràng đến Fortnite, VEO 3 diễn giải chính xác bối cảnh để tạo ra lối chơi phù hợp.

Khả năng của công nghệ để tái tạo tài liệu có bản quyền, mặc dù gián tiếp, đặt ra các câu hỏi pháp lý và đạo đức quan trọng. Mặc dù VEO 3 không vi phạm trực tiếp bản quyền, nhưng việc đào tạo của nó về số lượng lớn các cảnh quay trò chơi Fortnite có sẵn công khai cho thấy mối quan hệ phức tạp với quyền sở hữu nội dung. Điều này đã làm dấy lên các cuộc thảo luận về khả năng AI như vậy được sử dụng trong việc truyền bá thông tin sai lệch, vì nội dung được tạo ra rất khó để phân biệt với các cảnh quay thực.

Hơn nữa, các ứng dụng của VEO 3 vượt ra ngoài chơi game. Một minh chứng về công cụ tạo ra một báo cáo tin tức giả về triển lãm thương mại ô tô không tồn tại làm nổi bật tính linh hoạt của nó và tiềm năng lạm dụng trong bối cảnh truyền thông rộng hơn.

Trong ngành công nghiệp game, các công ty khác như Microsoft đang khám phá các công nghệ tương tự. Chương trình Microsoft của Microsoft, được đào tạo về các cảnh quay của trò chơi về cạnh chảy máu của Xbox, nhằm mục đích hỗ trợ cho ý tưởng và bảo quản khái niệm trò chơi. Tuy nhiên, việc giới thiệu các công cụ như vậy đã gây ra các cuộc tranh luận về tác động của chúng đối với sự sáng tạo và việc làm của con người trong ngành.

Bản thân Fortnite đã chấp nhận AI theo những cách khác, gần đây đã thêm một tính năng cho phép người chơi tương tác với phiên bản AI của Darth Vader, được lồng tiếng bởi James Earl Jones quá cố. Động thái này, trong khi được cấp phép chính thức, đã không có tranh cãi, đưa ra những lời chỉ trích và thách thức pháp lý từ các công đoàn.

Khi các công cụ tạo video AI như VEO 3 tiếp tục phát triển, họ hứa sẽ cách mạng hóa việc tạo nội dung đồng thời đặt ra những thách thức mới về tính xác thực, bản quyền và tương lai của công việc sáng tạo.