 |
| Người dùng tiếp cận các video dạng 'bản tin' trên mạng xã hội, trong đó có không ít nội dung được dàn dựng bằng AI. Ảnh: INT |
Không khó để bắt gặp những đoạn video lan truyền trên mạng xã hội với nội dung “gây sốc”: Một nhà sáng tạo nội dung bị cơ quan chức năng điều tra, một KOL vướng nghi vấn vi phạm pháp luật…
Tuy nhiên, phía sau những hình ảnh tưởng chừng “xác thực” ấy, không ít trường hợp lại là sản phẩm được dựng lên bằng công nghệ trí tuệ nhân tạo (AI).
Nguy cơ lan rộng và hệ lụy niềm tin
Gần đây, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao, Công an tỉnh Đồng Tháp đã phát đi cảnh báo về tình trạng lợi dụng AI để cắt ghép hình ảnh, tạo dựng nội dung sai sự thật nhằm bôi nhọ, gây áp lực với các nhà sáng tạo nội dung trên mạng xã hội.
Theo cơ quan chức năng, một trong những nguyên nhân dẫn đến tình trạng này xuất phát từ việc các đối tượng quảng cáo cá cược trực tuyến tìm cách lôi kéo KOL, người có ảnh hưởng tham gia quảng bá. Khi bị từ chối, họ đã sử dụng AI để tạo dựng các video, hình ảnh bịa đặt, gán ghép người sáng tạo nội dung vào các tình huống tiêu cực, thậm chí tung tin sai sự thật liên quan đến việc bị điều tra.
Những nội dung này thường được dàn dựng theo phong cách “bản tin” hoặc video ngắn, dễ gây hiểu lầm và nhanh chóng lan truyền trên các nền tảng mạng xã hội.
Anh Nguyễn Huy H. (27 tuổi, nhà sáng tạo nội dung tại Hà Nội) cho biết, từng nhận được lời mời quảng bá cho một nền tảng cá cược trực tuyến. “Khi tôi từ chối, họ vẫn nhắn tin nhiều lần, thậm chí gợi ý mức thù lao khá cao. Với những người làm nội dung, uy tín cá nhân là yếu tố quan trọng, không cho phép tôi nhận những ‘job’ như vậy”, anh H. chia sẻ.
Dù bản thân chưa trực tiếp bị cắt ghép, bôi nhọ bằng AI, anh H. cho biết vẫn không khỏi lo ngại trước những gì đang diễn ra. Theo anh, việc công nghệ có thể bị lợi dụng để dựng nên những nội dung sai lệch là một nguy cơ hiện hữu, đặc biệt với những người hoạt động công khai trên mạng xã hội.
“Chỉ cần một video giả mạo lan truyền, dù sau đó có đính chính thì hình ảnh cá nhân cũng ít nhiều bị ảnh hưởng. Điều này không chỉ tác động đến danh dự, mà còn liên quan trực tiếp đến công việc và các mối quan hệ hợp tác”, Nguyễn Huy H. nói.
Anh H. cũng cho rằng áp lực lớn nhất nằm ở việc khó kiểm soát thông tin khi đã phát tán trên mạng. Người xem nhiều khi không kiểm chứng nguồn, thấy nội dung ‘giật gân’ là tin ngay. Khi đó, người bị hại gần như rơi vào thế bị động.
Không chỉ dừng lại ở việc gây tổn hại danh dự cá nhân, các nội dung giả mạo còn góp phần làm nhiễu loạn thông tin trên mạng xã hội. Theo ghi nhận, nhiều video được dựng bằng AI có hình thức khá tinh vi, từ việc lồng ghép logo, chèn phụ đề đến sử dụng giọng đọc tự động, khiến người xem khó phân biệt thật giả nếu không kiểm chứng kỹ nguồn tin.
Chị Nguyễn Minh Anh (23 tuổi, nhân viên văn phòng tại Hà Nội) cho biết: “Có lần tôi xem một video nói về một KOL bị điều tra, nhìn rất giống bản tin thật. Sau đó mới biết là nội dung dựng. Nếu những người lớn tuổi như bố mẹ tôi xem, chắc chắn họ sẽ không phân biệt được thật giả, thật sự rất nguy hiểm. Từ đó, tôi cẩn trọng hơn khi xem và chia sẻ thông tin trên mạng”.
Các chuyên gia cho rằng, sự phát triển nhanh của công nghệ AI đã làm giảm đáng kể chi phí và thời gian sản xuất nội dung giả, khiến bất kỳ ai cũng có thể tạo ra các sản phẩm “giống thật” chỉ với vài thao tác đơn giản. Điều này đặt ra thách thức không nhỏ trong việc kiểm soát thông tin và bảo vệ người dùng trên không gian mạng.
Có thể bị xử lý hình sự
Dưới góc độ pháp lý, luật sư Trần Đức Minh (Đoàn Luật sư Hà Nội) nhận định, việc sử dụng AI để cắt ghép, dựng nội dung sai sự thật nhằm xúc phạm danh dự, nhân phẩm người khác là hành vi vi phạm pháp luật.
“Dù sử dụng công nghệ nào, nếu hành vi nhằm mục đích bịa đặt, vu khống hoặc gây tổn hại đến uy tín cá nhân thì đều có thể bị xử phạt hành chính, thậm chí truy cứu trách nhiệm hình sự tùy theo mức độ”, luật sư Minh cho biết.
Ông Minh cũng lưu ý, với sự ra đời của Luật Trí tuệ nhân tạo năm 2025 (có hiệu lực từ ngày 1/3/2026), các hành vi lợi dụng công nghệ AI để thực hiện hành vi trái pháp luật sẽ có cơ sở pháp lý rõ ràng hơn để xử lý. Tuy nhiên, thách thức lớn nằm ở việc phát hiện và thu thập chứng cứ, bởi các nội dung này có thể bị xóa nhanh hoặc lan truyền qua nhiều nền tảng khác nhau.
Trước tình trạng trên, cơ quan chức năng khuyến cáo các nhà sáng tạo nội dung cần thận trọng trong quá trình hoạt động, không tiếp tay cho các hình thức quảng cáo trái phép, đặc biệt là cá cược trực tuyến. Khi phát hiện hình ảnh cá nhân bị sử dụng trái phép, người bị hại nên nhanh chóng lưu lại bằng chứng và trình báo cơ quan chức năng để được hỗ trợ xử lý.
Đối với người dùng mạng xã hội, việc tiếp nhận thông tin có chọn lọc, kiểm chứng nguồn tin trước khi chia sẻ là yếu tố quan trọng nhằm hạn chế sự lan truyền của các nội dung sai lệch.
Khi công nghệ ngày càng phát triển, ranh giới giữa thật và giả trên không gian mạng trở nên mong manh hơn bao giờ hết. AI không chỉ phục vụ sáng tạo mà còn có thể bị lợi dụng để gây tổn hại. Việc nâng cao nhận thức và trách nhiệm của mỗi người dùng trở thành “lá chắn” quan trọng để bảo vệ môi trường thông tin lành mạnh.
