Năng lực lớn và rủi ro cao

Các doanh nghiệp trong nhiều ngành đang nhanh chóng ứng dụng tác nhân AI - các hệ thống AI tạo sinh (GenAI) có mục tiêu, hoạt động tự chủ để thực hiện tác vụ trong hoạt động của mình. 

Không như các hệ thống GenAI truyền thống (chatbot), vốn chỉ tạo ra văn bản hoặc nội dung dựa trên câu lệnh, tác nhân AI được thiết kế để xử lý thông tin, đưa ra quyết định và hành động mà không cần sự can thiệp trực tiếp, liên tục của con người.

Tuy nhiên, trong quá trình này, tác nhân AI có thể lựa chọn chiến lược “không phù hợp”, khiến quy trình ra quyết định, phương tiện hoặc mục đích của chúng lệch khỏi ý định của nhà phát triển. 

Bảo đảm sự thích hợp có thể gặp khó khi tác nhân AI được thiết kế để tương tác với rất nhiều người, với hệ thống và dữ liệu khác nhau. Rủi ro về những kết quả không lường trước được này càng tăng trong những tình huống mà tác nhân AI tương tác với các hệ thống AI khác, bao gồm cả các tác nhân AI khác.

Khi tác nhân AI được trao quyền tự chủ lớn hơn và quyền truy cập vào nhiều dữ liệu và hệ thống hơn, rủi ro về sự không phù hợp và những tác hại đi kèm sẽ gia tăng. Một số rủi ro vốn có trong hệ thống AI nói chung sẽ còn trầm trọng hơn khi xuất hiện trong tác nhân AI, như gây thiệt hại lớn về vật chất do lỗi (thiết bị tự hành gặp trục trặc); xâm phạm quyền riêng tư; xâm phạm bản quyền hoặc chiếm đoạt bí mật thương mại; đưa ra thông tin sai lệch, không chính xác hoặc bịa đặt; vi phạm quy định của pháp luật.

Mặc dù những tác hại tiềm tàng này có thể do các hệ thống AI nói chung gây ra, song rủi ro tương tự ở các tác nhân AI có thể dẫn đến những tác hại lớn hơn (cả về mức độ và số lượng), do tính tự chủ của các tác nhân và sự giám sát của con người giảm đi. Do vậy, các bước cụ thể để quản lý và giảm thiểu rủi ro của hệ thống AI nói chung và tác nhân AI nói riêng là rất cần thiết.

Thách thức về pháp lý

Tại Mỹ, khung pháp lý định nghĩa về AI là rất rộng, khi có thể gồm cả các ứng dụng phần mềm. Theo Mục 9401, Tiểu mục 3 của Điều 15 Luật Mỹ, một phần của Đạo luật sáng kiến AI quốc gia năm 2020, AI được định nghĩa là bất kỳ hệ thống dựa trên máy móc nào có thể đưa ra dự đoán, khuyến nghị hoặc quyết định; sử dụng các mục tiêu do con người xác định; và ảnh hưởng đến môi trường thật hoặc ảo.

Với định nghĩa rộng này, ngay cả những công cụ phổ biến như Macro excel cũng có thể phải tuân thủ quy định về AI tại Mỹ. Theo các chuyên gia, định nghĩa về AI như vậy khiến doanh nghiệp thuộc nhiều lĩnh vực khác nhau ở Mỹ giờ đây sẽ phải đánh giá lại toàn bộ việc sử dụng phần mềm của mình để bảo đảm tuân thủ luật AI mới.

Chính phủ nhiều nước cũng đang tích cực xây dựng môi trường pháp lý để quản lý AI. Đạo luật AI của Liên minh châu Âu (EU) đã phân loại các hệ thống AI thành nhiều loại rủi ro, đưa ra những yêu cầu tuân thủ nghiêm ngặt với những ứng dụng có rủi ro cao. 

Tại Mỹ, nhiều bang cũng đang đưa ra luật AI, khiến doanh nghiệp phải luôn cập nhật những quy định mới. Theo các chuyên gia, sự phát triển của AI diễn ra quá nhanh đến mức nhiều doanh nghiệp, ngay cả doanh nghiệp có quy mô rất nhỏ, đang phải dành thời gian đáng kể để bảo đảm tuân thủ các luật hiện hành.

Một khung quản trị AI là rất cần thiết để các doanh nghiệp có thể giảm thiểu những rủi ro do AI gây ra. Theo đó, một chính sách cần được đặt ra cho việc phát triển và triển khai tác nhân AI, bảo đảm những vấn đề như kiểm tra độ lệch, bảo vệ dữ liệu và các biện pháp an toàn được giải quyết ngay từ đầu. Một khung quản trị chính thức nhằm giám sát và có trách nhiệm giải trình rõ ràng cho các dự án AI và xác định vai trò cụ thể.

Theo đó, việc đánh giá rủi ro cần phải được thực hiện một cách nghiêm ngặt, đặc biệt với những ứng dụng AI được xác định có mức độ rủi ro cao. Tại Mỹ, một số quy định sắp tới dự kiến sẽ yêu cầu các tổ chức bắt buộc phải có những đánh giá như vậy (chẳng hạn dự thảo quy định của Cơ quan Bảo vệ quyền riêng tư bang California về công nghệ ra quyết định tự động yêu cầu đánh giá tác động thường xuyên đối với AI có rủi ro cao). 

Ngay cả khi không bắt buộc, những đánh giá như vậy có thể giúp doanh nghiệp xác định được những rủi ro cần được quản lý.

Vẫn cần yếu tố con người

Sự giám sát liên tục và sự giám sát của con người trong tác vụ của AI, đặc biệt với tác nhân AI, là rất cần thiết, khi dữ liệu lịch sử được dùng để huấn luyện AI đang có xu hướng phản ánh sự bất bình đẳng trong xã hội mà các hệ thống AI có thể tiếp tục duy trì khi được ứng dụng. 

Mới đây, một nguyên đơn đã tiến hành khởi kiện ứng dụng Workday, với cáo buộc hệ thống AI của ứng dụng này đã loại bỏ một cách có hệ thống với người nộp đơn xin việc là người da màu và lớn tuổi. Tương tự, Amazon mới đây cũng đã chấm dứt một công cụ tuyển dụng AI sau khi phát hiện ra “nó” ưu ái ứng viên nam, cho thấy nguy cơ AI sẽ tiếp tục củng cố những định kiến xã hội.

Do các hệ thống AI có khả năng truy cập nguồn dữ liệu lớn, việc tuân thủ quy định bảo vệ dữ liệu cũng có ý nghĩa quan trọng. Doanh nghiệp phải bảo đảm rằng dữ liệu được dùng trong các hệ thống AI được thu thập và xử lý một cách hợp pháp, với sự chấp thuận rõ ràng. 

Việc triển khai các khung quản trị dữ liệu mạnh mẽ và ẩn danh hóa dữ liệu có thể giúp giảm thiểu rủi ro về quyền riêng tư. Doanh nghiệp cần thiết phải phát triển những mô hình AI có thể diễn giải được và có thể giải trình cho quyết định của chúng. Điều này không chỉ giúp doanh nghiệp tuân thủ quy định của pháp luật mà còn củng cố lòng tin của các bên liên quan.

Có thể nhận thấy rất rõ rằng, dù mang tới tiềm năng chuyển đổi rất lớn cho doanh nghiệp, nhưng ở chiều ngược lại, AI cũng đem lại nhiều rủi ro pháp lý và tài chính đáng kể. Do vậy, các chuyên gia khuyến cáo, chỉ bằng cách chủ động giải quyết những vấn đề liên quan như quyền riêng tư, tính minh bạch, an ninh mạng và tuân thủ quy định, doanh nghiệp mới có thể khai thác những lợi ích của AI đồng thời giảm thiểu trách nhiệm pháp lý tiềm tàng.

Thực tế ứng dụng AI đến nay trong hoạt động của doanh nghiệp đang nêu bật tầm quan trọng của việc quản trị, trách nhiệm giải trình và giám sát trong việc áp dụng công nghệ này. Các cơ quan, tổ chức, doanh nghiệp tạo lập được những chính sách rõ ràng và chiến lược quản lý rủi ro sẽ có vị thế tốt nhất để điều hướng tương lai do AI thúc đẩy một cách thành công./.