Trách nhiệm của Nhà phát triển Trí tuệ nhân tạo

Trả lời

Xác định "Nhà phát triển" trong lĩnh vực Trí tuệ nhân tạo

Chào Anh Hùng, theo định nghĩa pháp lý hiện hành, Nhà phát triển là tổ chức, cá nhân thực hiện việc thiết kế, xây dựng, huấn luyện, kiểm thử hoặc tinh chỉnh toàn bộ hoặc một phần mô hình, thuật toán hoặc hệ thống trí tuệ nhân tạo. Điều quan trọng là Nhà phát triển phải có quyền kiểm soát trực tiếp đối với phương pháp kỹ thuật, dữ liệu huấn luyện hoặc tham số mô hình.

Với mô tả của anh về việc công ty đang phát triển một hệ thống AI để tự động hóa quy trình sản xuất, công ty anh hoàn toàn phù hợp với định nghĩa này. Việc thiết kế, xây dựng, huấn luyện và kiểm thử hệ thống AI cho thấy công ty anh đang thực hiện các hoạt động cốt lõi của một Nhà phát triển AI và chắc chắn có quyền kiểm soát kỹ thuật đối với hệ thống đó.

Trách nhiệm pháp lý của Nhà phát triển AI

Khi đã được xác định là Nhà phát triển AI, công ty anh sẽ phải tuân thủ các quy định pháp luật liên quan, đặc biệt là về trách nhiệm quản lý và xử lý sự cố. Theo Luật Trí tuệ nhân tạo 2025, Nhà phát triển có trách nhiệm bảo đảm an toàn, an ninh, độ tin cậy của hệ thống AI mà mình tạo ra. Điều này bao gồm việc kịp thời phát hiện và khắc phục các sự cố có khả năng gây tổn hại đến con người, tài sản, dữ liệu hoặc trật tự xã hội ^[1].

Cụ thể, Khoản 1 Điều 12 của Luật này quy định rõ rằng Nhà phát triển phải chủ động thực hiện các biện pháp để đảm bảo hệ thống hoạt động ổn định và an toàn.

Xử lý sự cố nghiêm trọng

Trong trường hợp hệ thống trí tuệ nhân tạo do công ty anh phát triển xảy ra sự cố nghiêm trọng, trách nhiệm của Nhà phát triển được quy định rất cụ thể. Công ty anh phải khẩn trương áp dụng các biện pháp kỹ thuật cần thiết để khắc phục sự cố, có thể bao gồm việc tạm dừng hoạt động hoặc thậm chí thu hồi hệ thống. Đồng thời, việc thông báo kịp thời cho cơ quan có thẩm quyền là bắt buộc ^[1].

Việc báo cáo và xử lý sự cố sẽ được thực hiện thông qua cổng thông tin điện tử một cửa về trí tuệ nhân tạo, và Chính phủ sẽ quy định chi tiết về quy trình báo cáo cũng như trách nhiệm của các bên liên quan tùy thuộc vào mức độ nghiêm trọng và phạm vi ảnh hưởng của sự cố ^[1]. Do đó, công ty anh cần chuẩn bị sẵn sàng các quy trình nội bộ để ứng phó và báo cáo khi cần thiết.