Ứng dụng giúp bảo vệ trẻ em trên không gian mạng

CyberPurify là một startup chuyên phát triển phần cứng và phần mềm lọc nội dung trên Internet, đã cho ra mắt phiên bản miễn phí CyberPurify Kids- một phần mềm lọc nội dung online theo thời gian thực đầu tiên trên thế giới.

Đây là phiên bản dành cho trẻ em, nhằm lọc nội dung độc hại nhờ vào trí tuệ nhân tạo (AI), để nhận dạng và ẩn đi 15 loại nội dung độc hại với trẻ em, như nội dung bạo lực, tai nạn, ngược đãi động vật, máu, khiêu dâm, ma quỷ…

Mục tiêu của giải pháp này là thiết lập một môi trường an toàn cho trẻ em chỉ sau vài cú click chuột. Dự kiến, sản phẩm này sẽ ra mắt vào ngày 1-6 tới đây, và cũng sẽ được cung cấp miễn phí cho trường học, phòng lab và những nơi có máy tính công cộng.

Việc sử dụng phần mềm này hết sức đơn giản, người dùng chỉ cần vào phần "tiện ích mở rộng" của các trình duyệt Google Chrome, Microsoft Edge, Firefox… và tải về là có thể hoàn tất cài đặt.

Khi trẻ truy cập internet trên các trình duyệt này, CyberPurify sẽ tự động phân tích các nội dung đang hiển thị, che mờ nếu phát hiện chúng độc hại, hoặc gửi báo cáo đến phụ huynh khi phát hiện trẻ tìm hiểu về ma tuý, dược phẩm. Khi đứa trẻ tìm cách gỡ bỏ bộ lọc mạnh mẽ này, phụ huynh cũng sẽ nhận được thông báo.

Ứng dụng giúp bảo vệ trẻ em trên không gian mạng ảnh 1

Ông Nguyễn Hữu Bình, đồng sáng lập và giám đốc điều hành CyberPurify.

Trao đổi với PLO, ông Bình Nguyễn, Người đồng sáng lập và giám đốc điều hành CyberPurify này tỏ: "Trước đây, phụ huynh đối mặt với việc để bọn trẻ sử dụng máy tính bất chấp sự nguy hiểm đến từ không gian mạng, hoặc xâm phạm nghiêm trọng không gian cá nhân của trẻ khi sử dụng các phần mềm bảo mẫu truyền thống. Do đó, chúng tôi đã và đang tập trung xây dựng mô hình AI cho phép nhận dạng và phân loại những nội dung độc hại, định nghĩa lại khái niệm về sự an toàn cho trẻ em, thay thế cách theo dõi kiểm soát bằng sự bảo vệ chủ động của AI trong việc nhận dạng theo thời gian thực ngay khi nội dung chưa hiển thị”.

Cũng theo ông, hiện phần mềm hoàn toàn miễn phí khi sử dụng và đã được đưa vào ứng dụng ở Việt Nam, và nhiều nước trên thế giới. "Khi đi vào hoạt động chúng tôi nhận được phản hồi tích cực, tuy nhiên, cũng có phản ánh cho rằng AI chặn thông tin quá mạnh, quá khắt khe nên chúng tôi đang rà soát lại và điều chỉnh bằng machine learning (học máy)"- ông Bình thông tin.

Theo BBFC, cơ quan quản lý nội dung truyền thông độc lập và phi lợi nhuận về hệ thống phân loại nội dung, phim, game đáng tin cậy ở Vương quốc Anh, 7 đến 8 tuổi là độ tuổi mà một số trẻ đã tình cờ nhìn thấy nội dung khiêu dâm, hơn 60% trẻ em 11 đến 13 tuổi và 53% trẻ từ 14 đến 15 tuổi vô tình tiếp xúc với nội dung khiêu dâm trên mạng. Hầu hết chúng mô tả cảm giác là “kinh khủng” và “bối rối”, gây cảm giác tiêu cực nhất, đặc biệt là những đứa trẻ dưới 10 tuổi.

Giai đoạn dưới 10 tuổi là giai đoạn trẻ tiếp xúc và khám phá với thế giới bên ngoài, do đó trẻ rất dễ bắt chước và bị tác động bởi các tác nhân tiêu cực. Các nội dung không phù hợp như hình ảnh tai nạn, ngược đãi động vật, bạo lực và nhất là nội dung khiêu dâm có thể khiến trẻ khó chịu, bối rối, ám ảnh về sau.

Nếu chỉ xét riêng về nội dung khiêu dâm, chúng thực sự đang rất tràn lan trên Internet, không chỉ dưới dạng website mà còn là hình ảnh/video/quảng cáo xuất hiện ở các trang web chơi game trực tuyến, mạng xã hội, các diễn đàn, chat nhóm... Do đó sự xuất hiện của các ứng dụng kiểm soát nội dung là cần thiết để bảo vệ không gian mạng an toàn, lành mạnh hơn.