Google đã tạm dừng tính năng tạo hình ảnh con người của mô hình AI Gemini sau khi phát hiện ra lỗi nghiêm trọng về mặt lịch sử.
Gemini là mô hình AI có khả năng tạo hình ảnh từ văn bản. Tuy nhiên, một số người dùng đã phát hiện ra rằng khi yêu cầu Gemini tạo hình ảnh của các nhóm hoặc nhân vật lịch sử, mô hình này thường tạo ra hình ảnh không chính xác về mặt chủng tộc, màu da, giới tính.
Ví dụ, khi yêu cầu Gemini tạo hình ảnh của các nhà khai quốc Mỹ, mô hình này thường tạo ra hình ảnh những người không phải da trắng. Điều này dẫn đến các thuyết âm mưu rằng Google đang cố tình tránh mô tả người da trắng, đi ngược lại thực tế lịch sử.
Google đã xác nhận lỗi này và cho biết họ đang nỗ lực giải quyết. Trong khi đó, tính năng tạo hình ảnh của Gemini sẽ tạm dừng và sẽ phát hành lại phiên bản cải tiến trong tương lai.
Đây không phải là lần đầu tiên một mô hình AI của Google gặp lỗi nghiêm trọng. Vào năm 2020, Google đã phải đóng cửa một mô hình AI khác có tên là Meena sau khi phát hiện ra rằng mô hình này đã học được ngôn ngữ thù hận từ người dùng.
Sự việc này cho thấy rằng các mô hình AI vẫn còn nhiều hạn chế và cần được kiểm tra kỹ lưỡng trước khi được đưa ra sử dụng rộng rãi.
