Trách nhiệm pháp lý của Nhà phát triển trí tuệ nhân tạo
“Chào luật sư, tôi là chủ một startup công nghệ ở Quận 1, TP.HCM, chuyên phát triển các giải pháp AI cho doanh nghiệp. Gần đây, tôi nghe nói có luật mới về AI và trách nhiệm của "nhà phát triển". Tôi đang rất lo lắng không biết công ty mình có phải là "nhà phát triển" theo luật không và nếu có thì cần phải làm gì để tuân thủ, đặc biệt là nếu có sự cố xảy ra.”
Trả lời
Định nghĩa "Nhà phát triển" trong lĩnh vực AI
Chào Anh N.V.H, theo quy định pháp luật hiện hành về trí tuệ nhân tạo, "Nhà phát triển" được định nghĩa rất rõ ràng. Đó là tổ chức, cá nhân thực hiện việc thiết kế, xây dựng, huấn luyện, kiểm thử hoặc tinh chỉnh toàn bộ hoặc một phần mô hình, thuật toán hoặc hệ thống trí tuệ nhân tạo. Điều quan trọng là Nhà phát triển phải có quyền kiểm soát trực tiếp đối với phương pháp kỹ thuật, dữ liệu huấn luyện hoặc tham số mô hình. Nếu công ty của anh thực hiện các hoạt động này và có quyền kiểm soát như trên, thì công ty anh chính là Nhà phát triển theo quy định pháp luật.
Trách nhiệm chung của Nhà phát triển AI
Là một Nhà phát triển hệ thống trí tuệ nhân tạo, công ty anh có những trách nhiệm pháp lý quan trọng để đảm bảo an toàn và tuân thủ. Cụ thể, Nhà phát triển có trách nhiệm bảo đảm an toàn, an ninh, độ tin cậy của hệ thống AI mà mình tạo ra. Đồng thời, công ty anh cũng phải kịp thời phát hiện và khắc phục các sự cố có khả năng gây tổn hại đến con người, tài sản, dữ liệu hoặc trật tự xã hội
[3]. Việc tuân thủ các quy định này là cần thiết để đảm bảo hoạt động kinh doanh hợp pháp và bảo vệ người dùng. Mặc dù các văn bản pháp lý khác có thể quy định về các vấn đề hành chính chung [1] hoặc các lĩnh vực chuyên biệt [2], nhưng đối với hoạt động phát triển AI, Luật Trí tuệ nhân tạo là văn bản cốt lõi.Xử lý sự cố nghiêm trọng đối với hệ thống AI
Trong trường hợp hệ thống trí tuệ nhân tạo do công ty anh phát triển xảy ra sự cố nghiêm trọng, trách nhiệm của Nhà phát triển càng trở nên cụ thể và khẩn cấp. Công ty anh phải khẩn trương áp dụng các biện pháp kỹ thuật cần thiết để khắc phục sự cố, thậm chí có thể phải tạm dừng hoặc thu hồi hệ thống AI đó. Song song với việc khắc phục, Nhà phát triển cũng phải thông báo ngay lập tức cho cơ quan có thẩm quyền về sự cố này
[3]. Việc báo cáo và xử lý sự cố sẽ được thực hiện qua cổng thông tin điện tử một cửa về trí tuệ nhân tạo, và Chính phủ sẽ có quy định chi tiết về quy trình này phù hợp với mức độ nghiêm trọng và phạm vi ảnh hưởng của sự cố.