OpenAI vừa thực hiện một bước đi mới nhằm cải thiện an toàn trực tuyến cho giới trẻ bằng việc công bố Teen Safety Policy Pack (Bộ quy tắc an toàn cho thanh thiếu niên) trên GitHub. Bộ công cụ này bao gồm các hướng dẫn chính sách và các câu lệnh mẫu (prompts) giúp các nhà phát triển tinh chỉnh hệ thống AI để phù hợp hơn với đối tượng người dùng nhỏ tuổi.
Sáng kiến này tập trung vào vai trò ngày càng quan trọng của AI tạo sinh trong cuộc sống hàng ngày của thanh thiếu niên cũng như những lo ngại về tác động của nó. Bộ hướng dẫn an toàn được thiết kế để cung cấp cho các nhà phát triển một điểm khởi đầu cụ thể, giúp họ không phải tự xây dựng lại từ đầu để làm cho ứng dụng của mình trở nên an toàn hơn đối với trẻ vị thành niên.
Các chính sách được cấu trúc dưới dạng các câu lệnh (prompts) và có thể được áp dụng cùng với mô hình an toàn mã nguồn mở gpt-oss-safeguard của OpenAI, cũng như nhiều mô hình khác. Thay vì các hướng dẫn trừu tượng, OpenAI cung cấp các chỉ dẫn cụ thể có thể tích hợp trực tiếp vào ứng dụng AI. Chúng giúp hệ thống nhận diện các nội dung rủi ro hoặc không phù hợp và phản hồi một cách nhất quán, ví dụ như trong các trường hợp liên quan đến bạo lực, nội dung người lớn, các lý tưởng làm đẹp gây hại và các thử thách nguy hiểm.
Đáng chú ý, gói công cụ này được cung cấp dưới dạng mã nguồn mở. Các nhà phát triển có thể tìm hiểu cách tiếp cận của OpenAI và tùy chỉnh các quy tắc cho ứng dụng riêng của mình. Theo công ty, điều này giúp thiết lập một mức độ an toàn cơ bản trong hệ sinh thái AI, đồng thời mở ra không gian cho các cải tiến xa hơn trong tương lai.
Việc phát triển này được thực hiện với sự hợp tác của các tổ chức như Common Sense Media và everyone.ai — những đơn vị tập trung vào an toàn kỹ thuật số. Dựa trên sự hợp tác này, gói quy tắc được định vị như một tiêu chuẩn an toàn tối thiểu mà ngành công nghiệp có thể mở rộng thêm.
OpenAI thừa nhận rằng các nhà phát triển thường gặp khó khăn trong việc chuyển đổi các mục tiêu an toàn chung thành các quy tắc cụ thể. Điều này dẫn đến các chính sách không nhất quán hoặc các bộ lọc quá rộng. Với các câu lệnh mẫu, công ty hy vọng sẽ hạ thấp rào cản đó và đẩy nhanh quá trình triển khai. Teen Safety Policy Pack nằm trong chiến lược rộng lớn hơn nhằm làm cho việc sử dụng AI của giới trẻ trở nên an toàn hơn, tiếp nối các bước đi trước đó như quyền kiểm soát của phụ huynh, ước tính độ tuổi và cập nhật các quy chuẩn mô hình dành cho người dùng dưới 18 tuổi.