Công nghệ mới Markpainting Tech Fights Loại bỏ hình mờ và Deepfakes

Một nhóm các nhà nghiên cứu đã cùng nhau đưa ra một sáng kiến ​​mới với một mã nguồn mở có sẵn để giúp phát hiện tốt hơn các lỗi sâu đã được chỉnh sửa để loại bỏ các hình mờ với mục tiêu tránh lan truyền thông tin sai lệch.

Inpainting – còn được gọi là “Content-Aware Fill” cho người dùng Photoshop – là một phương pháp sử dụng các mô hình học máy để tái tạo lại các phần bị thiếu của hình ảnh hoặc để loại bỏ các đối tượng không mong muốn. Mặc dù nó thường được sử dụng như một công cụ trong số các quảng cáo để làm sạch hình ảnh để có kết quả tinh chỉnh hơn, công nghệ này cũng có thể được sử dụng cho những mục đích xấu, chẳng hạn như xóa hình mờ, tái tạo lại thực tế bằng cách xóa người hoặc một số đối tượng nhất định trong ảnh, thêm thông tin sai lệch và hơn thế nữa.

Loại công nghệ này đã phát triển vượt bậc trong những năm gần đây, với ví dụ đáng chú ý là “Content-Aware Fill” được hỗ trợ bởi AI của NVIDIA , tiến xa hơn một bước so với các công cụ đã nâng cao của Photoshop. Thao túng hình ảnh với mục đích xấu không chỉ có thể gây ra mất mát lợi nhuận từ việc đánh cắp hình ảnh bằng cách xóa hình mờ hoặc các yếu tố xác định bản quyền hình ảnh khác mà còn có thể dẫn đến việc lan truyền thông tin sai lệch trong trường hợp có khả năng xóa một người khỏi ảnh hiện trường vụ án, lừa đảo người dân hoặc doanh nghiệp, thậm chí gây bất ổn chính trị trong một trường hợp được đưa tin trước đó .

Để làm cho việc lạm dụng inpainting trở nên khó khăn hơn, một nhóm các nhà nghiên cứu – David Khachaturov, Ilia Shumailov, Yiren Zhao, Nicolas Papernot và Ross Anderson – đã cùng nhau đưa ra một sáng kiến, được gọi là “ Markpainting ”, được phát hiện bởi Light Blue Touchpaper . Nó là một công cụ mới có thể được sử dụng như một cảnh báo thao túng có thể hiển thị trong trường hợp có sơn.

Công cụ này, được mô tả chi tiết trong bài báo của nhóm , sử dụng “các kỹ thuật học máy đối nghịch để đánh lừa người nhập nội khiến các chỉnh sửa của nó hiển thị bằng mắt thường”, theo đó “chủ sở hữu hình ảnh có thể sửa đổi hình ảnh của họ theo những cách tinh vi mà bản thân họ không phải là có thể nhìn thấy, nhưng sẽ phá hoại bất kỳ nỗ lực nào để làm hỏng nó bằng cách thêm thông tin hiển thị được xác định trước bởi người đánh dấu. ”

Nghiên cứu này được hỗ trợ bởi CIFAR (thông qua Chủ tịch CIFAR AI của Canada), EPSRCApple , Bosch Research Foundation , NSERCMicrosoft , mang đến những cách thức mới cho người sáng tạo, công ty và cơ quan để bảo vệ tài sản kỹ thuật số của họ tốt hơn trong tương lai. Việc làm cho hình mờ ít có thể tháo rời hơn mang lại khả năng bảo mật và bảo vệ lợi nhuận cao hơn, trong khi các hình ảnh khác có thể được xử lý để mọi thao tác trong tương lai, chẳng hạn như xóa đối tượng, trở nên dễ phát hiện hơn.

Ý tưởng phát hiện hình ảnh và video được điều khiển không phải là mới; Tuy nhiên, nghiên cứu và phát triển trong lĩnh vực này vẫn đang được tiến hành, vẫn chưa được biết làm thế nào và khi nào công nghệ này có thể bắt kịp để ngăn chặn thành công các nỗ lực thao túng.

Bài báo nghiên cứu đầy đủ và các bài kiểm tra được thực hiện bằng kỹ thuật “Markpainting” này có thể được tìm thấy trong tài liệu nghiên cứu của nhóm “ Markpainting: Adversarial Machine Learning gặp Inpainting .”