AI sáng tạo cho phép người dùng tạo tất cả các loại hàng giả. Những bức ảnh giả về cựu Tổng thống Donald Trump chạy trốn khỏi cảnh sát, Tổng thống Nga Vladimir Putin ôm một chú mèo con và thậm chí cả Giáo hoàng trong chiếc áo khoác trắng của Balenciaga đã lan truyền chóng mặt trong những ngày gần đây. bạn không thể làm gì
Bạn không thể chụp ảnh Chủ tịch Trung Quốc Tập Cận Bình — ít nhất là không phải trên nền tảng trí tuệ nhân tạo Midjourney.
Trong nỗ lực làm chậm sự lan truyền của deepfakes trực tuyến, Midjourney cho biết vào tuần trước rằng họ sẽ kết thúc thời gian dùng thử miễn phí, nhưng nền tảng này vẫn có thể tạo ra hình ảnh của các nhà lãnh đạo thế giới – ngoại trừ đáng chú ý là chủ tịch Trung Quốc. Hãy thử làm điều đó và công ty MidjTHER có trụ sở tại San Francisco cho bạn biết điều đó là vượt quá giới hạn. Bạn thậm chí không thể sử dụng tên của chủ tịch Trung Quốc trong lời nhắc:
nhà phê bình tranh luận Lệnh cấm cấu thành một hình thức kiểm duyệt làm suy yếu các nguyên tắc cơ bản về quyền tự do ngôn luận và biểu đạt.
Sarah McLaughlin, một học giả cấp cao tại Tổ chức Quyền và Biểu hiện Cá nhân (FIRE), cho biết: “Cách thế giới hoạt động ngày nay và mức độ tất cả chúng ta kết nối chặt chẽ với nhau như thế nào, luật ngôn luận ở những nơi khác đều quan trọng” giải mã trong cuộc phỏng vấn. “Thị trường đó hoặc chính phủ đó có thể đủ mạnh để ảnh hưởng đến cách thức hoạt động của các công ty Mỹ.”
McLaughlin đã chỉ ra vụ hack Sony vào năm 2015, tiết lộ rằng cảnh phá hủy Vạn Lý Trường Thành của Trung Quốc đã bị xóa khỏi bản sao sản xuất của bộ phim Adam Sandler”điểm ảnh“, vì sợ rằng nó sẽ ảnh hưởng đến thành tích phòng vé của bộ phim ở Trung Quốc.
FIRE là một tổ chức phi lợi nhuận có trụ sở tại Philadelphia chuyên bảo vệ quyền tự do ngôn luận tại Hoa Kỳ, tập trung vào các trường đại học. McLaughlin nói thêm rằng quỹ gần đây đã mở rộng để trở thành một “nhóm tự do ngôn luận đa năng và Tu chính án thứ nhất”.
McLaughlin cho biết mọi người thường lầm tưởng rằng sự giám sát quốc tế không liên quan gì đến họ.
Khi vấn đề kiểm duyệt nảy sinh trên máy chủ Midjourney Discord vào năm ngoái, Giám đốc điều hành của Midjourney, David Holz cho biết công ty muốn giảm thiểu kịch tính.
“Không có âm mưu xấu xa nào – về cơ bản chúng tôi chỉ đang cố gắng giảm thiểu kịch tính,” Holz nói về vấn đề này vào tháng 6 năm ngoái.
Trong một bài đăng vào tháng 6 năm 2022 trên máy chủ Midjourney Discord, Holz đã nêu bật sự khác biệt về châm biếm chính trị ở các nước phương Tây so với Trung Quốc và thừa nhận rằng châm biếm chính trị phổ biến ở phương Tây có thể gây ra vấn đề ở Trung Quốc và thậm chí có thể gây nguy hiểm cho người dùng.
Tạo tranh biếm họa về các nhà lãnh đạo thế giới đã có lịch sử lâu đời, đặc biệt là ở Hoa Kỳ, nơi quyền tự do ngôn luận và biểu đạt được tôn trọng trong Hiến pháp Hoa Kỳ, nhưng không phải ở các quốc gia khác.
McLaughlin nói: “Đây không chỉ là vấn đề luật pháp Hoa Kỳ so với luật pháp Trung Quốc. “Nó phức tạp hơn thế và chúng tôi có thể thấy rằng các công cụ chúng tôi sử dụng cuối cùng tuân theo luật của các quốc gia khác thay vì luật của chúng tôi theo những cách mà chúng tôi không lường trước được.”
Holz cho biết lợi ích lớn hơn là cho phép người Trung Quốc sử dụng công nghệ, không khuyến khích châm biếm chính trị.
“Tôi nghĩ người Trung Quốc sử dụng công nghệ này sẽ hành động [the] Kim thường ở vị trí tích cực trong thế giới [direction]“Những người ngẫu nhiên ở đây châm biếm chính trị Trung Quốc sẽ không giúp ích được gì — phân tích chi phí-lợi ích có vẻ khá rõ ràng.”
Những người ủng hộ những hạn chế như vậy có thể lập luận rằng chúng là cần thiết để ngăn chặn sự lan truyền thông tin sai lệch và khả năng lạm dụng công nghệ AI. Bất chấp hồ sơ hạn chế của Chủ tịch Tập Cận Bình, McLaughlin không nghĩ rằng thời gian của MidJounrey ở Trung Quốc sẽ kéo dài.
“Tôi sẽ không ngạc nhiên nếu cuối cùng Trung Quốc chặn quyền truy cập vào nó, bất chấp những hạn chế này, bởi vì họ có xu hướng loại trừ các công ty phương Tây,” cô nói.
McLaughlin cho biết những gì Midjourney đang làm nằm ngoài tiêu chuẩn, trích dẫn quyết định gần đây của Twitter về việc kiểm duyệt nội dung ở Ấn Độ.
“Twitter gần đây đã phải đối mặt với các vấn đề kiểm duyệt ở Ấn Độ, nơi chính phủ yêu cầu xem xét một bộ phim tài liệu của BBC về Thủ tướng Narendra Modi,” McLaughlin nói. “Twitter phong tỏa Nội dung chỉ ở Ấn Độ, không phải trên toàn cầu. Mặt khác, Mid-Journey đang làm việc để ngăn mọi người sử dụng tên của Tập Cận Bình, một bước leo thang để chặn người dùng Trung Quốc. “
