Hộp đen trong trí tuệ nhân tạo và trách nhiệm nghiêm ngặt của bên triển khai: Những vấn đề pháp lý đặt ra

Ảnh minh họa: Nguồn Internet.

AI được thiết kế từ cơ chế học máy và học sâu cùng nền tảng dữ liệu lớn nên có một khoảng cách nhất định về xử lý thông tin so với con người. Trước sự phát triển đó, con người dần trở nên yếu thế so với AI, dẫn đến nguy cơ quyền con người bị xâm phạm. Kết quả đưa ra quyết định của AI không hoàn hảo, nhưng con người đôi khi không thấy hoặc không thể tìm ra những thiếu sót của hệ thống. Điều chúng ta không thể lý giải hoàn toàn gọi là “black box” (hộp đen), khi con người chỉ thấy kết quả mà không thấu hiểu quá trình ra quyết định của hệ thống. Khi còn tồn tại hộp đen trong quá trình ra quyết định, hệ thống AI chưa thể trở nên minh bạch tuyệt đối. Vì lẽ đó, có những rủi ro tiềm ẩn gây nên thiệt hại thực tế và người chịu trách nhiệm chính là bên triển khai. Tuy nhiên, chủ thể bên triển khai là bên tiếp nhận hướng dẫn hay cảnh báo các thông số kỹ thuật từ nhà phát triển nên không thể thấu hiểu toàn bộ quá trình bên trong của AI, dẫn đến việc xác định trách nhiệm nghiêm ngặt đối với họ vẫn còn nhiều bàn luận trong giới nghiên cứu học thuật.

Trong kỷ nguyên số, việc ứng dụng AI đã trở thành một yêu cầu tất yếu, buộc con người phải sử dụng và khai thác AI như một công cụ hỗ trợ đắc lực nhằm tối ưu hóa hiệu quả và năng suất lao động. Khi chủ thể là một máy tính, chúng ta gọi đó là học máy (machine learning): Hệ thống sẽ phân tích dữ liệu để xây dựng một mô hình, từ đó sử dụng mô hình này như một giả thuyết về thế giới và như một phần mềm giải quyết các vấn đề phát sinh[1]. AI hướng tới việc tối ưu hóa trí thông minh của máy tính nhằm thực hiện các công việc hỗ trợ cho con người. Đồng thời, AI (đôi khi được gọi là mô phỏng nhận thức, hoặc tâm lý học xử lý thông tin) cũng hướng tới việc sử dụng máy tính để mô phỏng con người, để chúng có thể tìm hiểu cách con người hoạt động và có thể giúp con người làm việc tốt hơn[2].

Học sâu (deep learning) là một tập hợp rộng lớn các kỹ thuật trong học máy, trong đó các giả thuyết có dạng là những mạch đại số phức tạp với các cường độ kết nối có thể điều chỉnh được[3]. Học sâu vận hành thông qua cấu trúc nhiều lớp ẩn bên trong, nơi dữ liệu phải trải qua vô số bước tính toán phức tạp, các thuật toán liên kết phức tạp theo nhiều hướng nhằm tự động đưa ra kết quả tối ưu. Cơ chế học sâu làm phát sinh tính phi dự đoán đặc trưng và từ đó cũng tạo ra những lỗ hổng nội tại của hệ thống AI. Chính sự thiếu minh bạch trong cấu trúc nội tại và bao gồm nhiều bước xử lý đã tạo nên hiện tượng “hộp đen” trong các hệ thống AI hiện nay.

Cơ chế học máy từ các mô hình ngôn ngữ lớn (Large Language Models - LLM), và quá trình xử lý kỹ thuật phức tạp, đưa ra nhiều kết quả đa dạng khác nhau. Cơ chế học máy có tính tự động, xử lý tập dữ liệu lớn nhanh chóng theo các kỹ thuật của thuật toán, đạt kết quả chính xác cao. Nhưng điều đó sẽ luôn chứa đựng rủi ro, hình thành cơ chế hộp đen. Các thuật toán kỹ thuật có khả năng học hỏi từ lượng dữ liệu khổng lồ, và khi được nạp sẵn lượng dữ liệu đó, hệ thống AI có khả năng đưa ra quyết định tương đồng với ý thức con người, hành xử như con người hay có trực giác giống con người. Chính vì vậy, học máy là nền tảng cốt lõi mang tính điều kiện cần, và học sâu là tác nhân trực tiếp đóng vai trò điều kiện đủ để hiện tượng hộp đen xuất hiện trong hệ thống AI. Tuy nhiên, chính cơ chế học sâu đã khiến các mô hình này luôn xuất hiện những hộp đen, làm cho quá trình ra quyết định trở nên không thể giải thích và việc kiểm soát hệ thống AI nằm ngoài khả năng của con người.

Hộp đen là những rào cản về mặt kỹ thuật khiến cho con người không thể thấy được quá trình vận hành phức tạp của hệ thống AI mà chỉ thấy được kết quả đầu ra. Các hoạt động đa lớp và/hoặc các tương tác phức hợp của nhiều thuật toán khác nhau khi vận hành cùng nhau khiến nhiều hệ thống AI trở nên khó kiểm tra, đặc biệt là các mạng thần kinh học sâu (deep learning neural networks). Trong nhiều trường hợp, sự phức tạp này vượt quá khả năng nhận thức của con người, bao gồm cả chính các nhà phát triển AI[4].

Điều đáng lo ngại là hệ thống AI càng học sâu thì tính tự chủ ngày càng cao, khi đó tồn tại những hộp đen mà con người không thể kiểm soát được. Tính tự chủ không hoàn toàn được xác định trước bởi chủ thể nào, mà bản thân hệ thống AI tự hoạt động với một mức độ tự chủ nhất định, tạo ra những kết quả mà các nhà phát triển hoặc bên triển khai không thể dự đoán. Khái niệm tự chủ là vấn đề trọng tâm khi nhắc đến hệ thống AI. Tính tự chủ hoàn toàn khi hệ thống AI đạt đến AI tổng quát (Artificial General Intelligence – AGI), có khả năng lập luận, phân tích, tổng hợp như con người. Và đến thời điểm hiện tại, AI được đánh giá vẫn ở giai đoạn của AI yếu (Artificial Narrow Intelligence - ANI), tức là chỉ xử lý được một nhiệm vụ cụ thể.

Hộp đen là tên gọi để nhắc đến sự thiếu minh bạch của hệ thống AI, khi con người không thể hiểu được cách thức vận hành của hệ thống. Tính mờ đục trở thành một mối lo ngại vì bản chất hộp đen của một số kỹ thuật này vừa che giấu quy trình ra quyết định, vừa tạo ra - ít nhất là trong tâm trí của một số người dùng - ảo tưởng về sự tinh vi và do đó là sự tin cậy cao hơn[5]. Sự tồn tại tất yếu của “hộp đen” trong hệ thống AI luôn là thách thức trực tiếp đối với tính minh bạch và cản trở khả năng kiểm soát của con người. Kỹ thuật học máy và học sâu trong mạng lưới “thần kinh” của hệ thống AI phức tạp và to lớn sẽ gây khó khăn cho con người trong việc tìm hiểu lý do tại sao hệ thống lại đưa ra lựa chọn như vậy ở một số tình huống[6].

Minh bạch nghĩa đen cho phép con người kiểm soát hệ thống AI, trong khi minh bạch nghĩa bóng tạo điều kiện cho trách nhiệm giải trình của hệ thống và sau đó là trách nhiệm pháp lý của người dùng[7]. Như vậy, minh bạch theo nghĩa đen là thực hiện theo cơ chế tiền kiểm (kiểm soát trước) quá trình vận hành bên trong của hệ thống AI và hiểu rõ những mối liên kết của quy trình để có được quyết định. Minh bạch theo nghĩa bóng thể hiện ở quá trình hậu kiểm (kiểm tra sau) đối với các kết quả đầu ra của hệ thống. Hiện nay, AI vẫn chưa được công nhận tư cách pháp lý, bởi vì tư cách pháp lý phải đi kèm với các nghĩa vụ. Chẳng hạn, trách nhiệm dân sự thường dẫn đến việc bồi thường thiệt hại, mà khoản bồi thường này chỉ có thể được thực hiện nếu chủ thể gây ra thiệt hại có khả năng sở hữu tài sản[8]. Chỉ khi nào AI đạt đến giai đoạn AGI mới có được trí thông minh tương đương con người, hay trí thông minh đạt cấp độ con người. Vì vậy, khi phát sinh những thiệt hại liên quan đến hệ thống AI, các chủ thể có liên quan phải chịu trách nhiệm. Đây dường như là một nghịch lý khi AI ra quyết định nhưng con người lại là chủ thể chịu trách nhiệm.

Để hạn chế sự thiếu minh bạch, các nhà khoa học đề xuất các phương pháp diễn giải và giải thích/giải trình hệ thống. Tuy nhiên, khả năng giải thích hệ thống AI chỉ mang tính tương đối, phụ thuộc vào đối tượng tiếp cận và năng lực nhận thức của họ đối với công nghệ AI. Thông thường, các hệ thống AI cấu trúc đơn giản không sử dụng mô hình ngôn ngữ lớn hay học sâu, sẽ dễ giải thích hơn ngay từ ban đầu. Ngược lại, đối với các hệ thống AI rủi ro cao, sự giải thích lại phụ thuộc vào thực tế vận hành và sự phát triển nội tại của hệ thống. Do vậy, phương pháp giải trình này chắc chắn không phải lúc nào cũng phản ánh được đầy đủ quá trình ra quyết định của hệ thống.

Hộp đen là kết quả tất yếu trong cơ chế học máy và học sâu. Do đó, khuôn khổ trách nhiệm pháp lý cần đủ mạnh để điều chỉnh cả hệ thống AI hoàn toàn tự chủ và các hệ thống được con người giám sát một phần. Do AI tiềm ẩn nhiều rủi ro, các chủ thể có liên quan khi hệ thống AI gây thiệt hại phải gánh chịu trách nhiệm tương ứng, nhất là bên triển khai dù cho họ bị hạn chế về mặt kỹ thuật so với nhà phát triển. Để phòng ngừa, chủ thể bên triển khai bắt buộc phải thực hiện các biện pháp giám sát, kiểm tra để duy trì quyền quyết định. Nếu không tuân thủ nghĩa vụ này khiến thiệt hại xảy ra, họ phải gánh chịu trách nhiệm và bồi thường cho người bị thiệt hại.

Hiện nay, mỗi ngày trên toàn cầu có khoảng 2,2 tỷ Gb dữ liệu mới (tương đương 165.000 tỷ trang tài liệu) được tạo ra và được các công ty công nghệ thu thập để tạo thành dữ liệu lớn (big data)[9]. Dữ liệu lớn giữ vai trò then chốt, ảnh hưởng trực tiếp đến việc ra quyết định. Nhờ cơ chế học máy, hệ thống có thể xử lý thông tin đầu vào với tốc độ nhanh và tối ưu, vượt trội so với phương thức phân tích truyền thống. Việc hệ thống AI có thể phản ứng như thế nào đối với các dữ liệu đầu vào nhất định phần lớn là không thể đoán trước, đặc biệt là đối với các hệ thống tiếp tục học hỏi trong quá trình vận hành. Một điểm hạn chế trong quá trình thiết lập thuật toán và các thông số kỹ thuật là con người không thể kiểm soát hay đánh giá toàn diện chất lượng của nguồn dữ liệu đầu vào.

Con người không thể kiểm soát và hệ thống hóa toàn bộ lượng thông tin khổng lồ ban đầu. Trong khi đó, hệ thống AI với khả năng xử lý tự động và nhanh chóng để đưa ra kết quả tối ưu đã khiến con người trở nên yếu thế so với hệ thống AI. Vì vậy, giữa con người và hệ thống AI tồn tại sự chênh lệch lớn về khối lượng dữ liệu được tiếp nhận và tốc độ xử lý dữ liệu. Hệ thống AI bao gồm nhiều chủ thể có liên quan, trong đó vai trò cốt lõi thuộc về nhà phát triển và bên triển khai. Nếu như các nhà phát triển có thể giảm thiểu lỗi thuật toán nhờ vào việc thiết lập mã nguồn cẩn trọng, thì bên triển khai lại có khả năng tối ưu hóa sự vận hành của hệ thống thông qua công tác đào tạo, giám sát và phổ biến đầy đủ thông tin cho bên vận hành và người sử dụng. Tuy nhiên, việc đạt được sự chính xác tuyệt đối trong toàn bộ quy trình vận hành hệ thống AI là điều chưa thể ở thời điểm hiện tại. Chính vì lý do đó, sức mạnh tự chủ của hệ thống càng tăng lên đáng kể thì con người dường như càng trở nên yếu thế hơn trong việc kiểm soát kết quả đầu ra do AI phân tích và ra quyết định.

Trước khả năng thay đổi khó dự đoán và khả năng tự hoàn thiện, thuật toán có thể thay đổi so với ban đầu khiến con người không thể kiểm soát trực tiếp, kể cả nhà phát triển. Bởi vậy, dù nhà phát triển thiết kế ra hệ thống AI hay bên triển khai tổ chức vận hành, họ cũng không thể giải thích mạch lạc quá trình ra quyết định khi kết quả đầu ra có sự khác biệt. Mặt khác, bên triển khai lại là bên gánh chịu nhiều rủi ro hơn, bởi họ chỉ tiếp nhận hệ thống AI với những thông số kỹ thuật được cảnh báo, hướng dẫn sử dụng từ nhà phát triển, nên rất khó để bên triển khai có thể thấu hiểu hệ thống AI như nhà phát triển. Vì vậy, dù nắm giữ vai trò tổ chức vận hành hệ thống, bên triển khai vẫn ở vị trí yếu thế trước nhà phát triển cũng như sự thông minh vượt trội của AI. Mặc dù gặp bất lợi lớn về mặt thông tin và dữ liệu, họ vẫn phải gánh chịu trách nhiệm pháp lý đối với các thiệt hại do hệ thống gây ra.

Hiện tại, chưa có cơ sở để khẳng định AI có các quyền và nghĩa vụ như con người, nên việc công nhận tư cách pháp lý cho công nghệ này ở thời điểm hiện tại là chưa phù hợp. Trong phạm vi bài viết này, tác giả tập trung xác định trách nhiệm bồi thường thiệt hại thuộc về bên triển khai.

Nhà phát triển có trách nhiệm hướng dẫn và đào tạo để bên triển khai hiểu rõ một cách cơ bản về quy trình xây dựng cùng độ phức tạp của hệ thống, các quy định cấm hoặc những điểm lưu ý đặc biệt cần cẩn trọng trong quá trình vận hành. Quyết định sử dụng hệ thống AI của bên triển khai ban đầu đều do nhà phát triển cung cấp, nên khi bên triển khai được trang bị càng nhiều thông tin về hệ thống, nghĩa vụ cẩn trọng của họ sẽ tăng lên tương ứng. Khi sự hiểu biết về hệ thống càng nhiều, tất nhiên trách nhiệm bồi thường của bên triển khai càng lớn, đến mức họ hiểu hệ thống gần như nhà phát triển. Lúc này, chế định trách nhiệm nghiêm ngặt là hoàn toàn phù hợp với họ. Việc một bên triển khai có đầy đủ thông tin đến mức nào không chỉ phụ thuộc vào thông tin do nhà phát triển cung cấp mà còn vào các yếu tố như độ phức tạp vốn có của tác nhân AI, bối cảnh triển khai, cũng như kinh nghiệm và chuyên môn của chính bên triển khai trong lĩnh vực liên quan[10]. Một chế định trách nhiệm lý tưởng nên yêu cầu các nhà phát triển AI cung cấp thông tin rõ ràng và chính xác, cho phép bên triển khai đánh giá có nên tin dùng hệ thống hay không. Cụ thể hơn, nhà phát triển nên làm nổi bật các tính năng liên quan để giúp bên triển khai đánh giá sự phù hợp của hệ thống đối với nhu cầu của họ[11].

Trước hết, bên triển khai phải có chuyên môn trong lĩnh vực liên quan để lựa chọn hệ thống AI phù hợp với công việc cụ thể. Điều này giúp đạt được mục đích sử dụng tối ưu, hiệu quả, đồng thời kiểm soát tốt các rủi ro trong suốt quá trình vận hành. Bên cạnh đó, bên triển khai phải bảo đảm duy trì sự giám sát chủ động và thường xuyên đối với hệ thống AI. Mức độ giám sát càng cao, kết hợp với các quy trình được xây dựng chặt chẽ, sẽ càng giảm thiểu rủi ro và bảo đảm khả năng ứng phó, khắc phục sự cố ngay khi phát hiện. Việc liên tục kiểm tra nhằm duy trì sự vận hành ổn định của hệ thống là minh chứng cho thấy bên triển khai đang sử dụng AI như một công cụ hỗ trợ, chứ không phụ thuộc hoàn toàn vào hệ thống. Bên triển khai không nên coi AI là sự thay thế hoàn toàn cho các nhiệm vụ của chính mình, mà phải luôn là người nắm quyền quyết định cuối cùng. Rủi ro thường phát sinh khi bên triển khai phụ thuộc hoàn toàn vào AI thay vì coi đó là công cụ hỗ trợ. Do đó, trước khi áp dụng, cần đặt câu hỏi cốt lõi về tính an toàn của hệ thống.

Bên triển khai phải giám sát xuyên suốt và vận dụng những kiến thức chuyên môn nhằm đánh giá, phát hiện kịp thời những lỗi sai của hệ thống, từ đó, họ mới có thể thực hiện trách nhiệm giải trình khi xảy ra thiệt hại trong thực tế. Cần hiểu rộng hơn rằng, sự tin cậy vào hệ thống AI trong quá trình triển khai, vận hành phải đồng nghĩa với việc bên triển khai có đủ trách nhiệm và năng lực để kiểm soát hoàn toàn hệ thống đó. Nếu bên triển khai thiếu chuyên môn sâu trong lĩnh vực áp dụng công nghệ AI, khả năng xác minh các kết quả đầu ra sẽ bị hạn chế. Trong những tình huống như vậy - hoặc khi việc đánh giá độc lập là không khả thi bất kể chuyên môn - bên triển khai buộc phải tin cậy vào các lý giải của hệ thống hoặc tác nhân. Hệ quả là, hiệu quả của việc giám sát bị giới hạn bởi khả năng giải thích của hệ thống[12]. Bên triển khai có nhiệm vụ cẩn trọng khi áp dụng AI ngay cả trong những công việc mang tính thường xuyên, lặp đi lặp lại và phải luôn tuân thủ các cảnh báo của hệ thống. Bất cứ thiệt hại nào xảy ra do không tuân thủ quy trình hay do sự thiếu cẩn trọng đều không thể là lời giải trình phù hợp cho các thiệt hại phát sinh.

Trong quyền hạn của mình, bên triển khai nắm quyền quyết định sử dụng hệ thống AI, cùng với đó, bên triển khai phải thực hiện rất nhiều nghĩa vụ trọng yếu. Trước hết, bên triển khai phải tuân thủ hướng dẫn kỹ thuật vận hành từ nhà phát triển và duy trì các tiêu chuẩn, quy chuẩn kỹ thuật xuyên suốt quá trình vận hành. Đồng thời, quá trình vận hành và giám sát hệ thống AI phải được thực hiện cùng lúc, trong đó sự giám sát đòi hỏi sự cẩn trọng cao độ, tuân thủ đúng mục đích và phạm vi hoạt động đã được xác định. Việc giám sát này bao gồm cả việc phân cấp, giao quyền cho những nhân sự có chuyên môn trực tiếp thực hiện trên thực tế. Thêm nữa, họ cần bảo đảm nguồn dữ liệu và thông tin đầu vào là phù hợp, có tính đại diện đầy đủ, cũng như lưu giữ nhật ký vận hành theo thời hạn quy định của từng lĩnh vực chuyên ngành. Ngoài ra, bên triển khai phải thực hiện trách nhiệm giải trình trước cơ quan nhà nước có thẩm quyền trong quá trình vận hành cũng như tại các đợt kiểm tra, đánh giá và hậu kiểm. Dù bị hạn chế về sự am hiểu thuật toán, bên triển khai vẫn phải luôn chủ động giám sát và kiểm soát kết quả đầu ra của hệ thống AI, khi họ chính là bên chịu trách nhiệm trực tiếp nếu hệ thống gây ra thiệt hại.

Áp dụng các nguyên tắc của pháp luật dân sự Việt Nam, bên triển khai khi vận hành hệ thống AI được xác định trách nhiệm bồi thường không dựa trên lỗi (trách nhiệm nghiêm ngặt) đối với các thiệt hại do AI gây ra. Việc ràng buộc trách nhiệm nghiêm ngặt đối với bên triển khai nhằm thiết lập một mức trần về nghĩa vụ cẩn trọng. Trước sự phát triển của công nghệ AI, Quốc hội đã ban hành Luật Trí tuệ nhân tạo năm 2025 (Luật TTNT) và xác định trách nhiệm bồi thường của bên triển khai đối với hệ thống AI có rủi ro cao tại khoản 2 Điều 29 như sau: “Trường hợp hệ thống AI có rủi ro cao được quản lý, vận hành và sử dụng đúng quy định nhưng vẫn phát sinh thiệt hại thì bên triển khai phải chịu trách nhiệm bồi thường cho người bị thiệt hại. Sau khi bồi thường, bên triển khai yêu cầu nhà cung cấp, nhà phát triển hoặc các bên liên quan hoàn trả khoản tiền bồi thường nếu có thỏa thuận giữa các bên”. Quy định này xác lập vị thế của bên triển khai là bên chịu trách nhiệm bồi thường đầu tiên và chịu trách nhiệm cả trong trường hợp hệ thống AI có rủi ro cao được quản lý, vận hành và sử dụng đúng quy định; điều này thể hiện trách nhiệm nghiêm ngặt của bên triển khai. Bên triển khai chỉ được miễn trừ trách nhiệm theo các trường hợp do luật định[13].

Dù tiềm ẩn nhiều rủi ro, bên triển khai vẫn phải chịu trách nhiệm nghiêm ngặt khi hệ thống gây ra thiệt hại để bảo đảm quyền lợi cho người bị thiệt hại theo nguyên tắc chung. Đáng chú ý, kể cả trong trường hợp bên triển khai đã tuân thủ nghiêm ngặt các thông số kỹ thuật từ nhà sản xuất, vận hành và sử dụng đúng quy định mà thiệt hại vẫn phát sinh, trách nhiệm bồi thường của họ vẫn không thay đổi. Trên thực tế, thiệt hại do hệ thống AI gây ra mà bên triển khai phải gánh chịu là trách nhiệm bồi thường ngoài hợp đồng, vốn có mối liên hệ mật thiết với nhiều bên, kể cả chủ thể bị thiệt hại. Hành vi dẫn đến thiệt hại không chỉ xuất phát từ việc thực hiện nghĩa vụ cơ bản, mức độ cẩn trọng hay năng lực giám sát của bên triển khai, mà còn phụ thuộc vào hành động của người bị thiệt hại cũng như các bên liên quan khác trong hệ thống AI. Chính vì vậy, Luật TTNT đã thiết lập cơ chế bảo vệ quyền lợi hợp pháp của bên triển khai thông qua quyền yêu cầu nhà phát triển hoặc các bên liên quan hoàn trả khoản tiền bồi thường, với điều kiện “nếu có sự thỏa thuận giữa các bên”. Mặc dù nhà làm luật áp dụng trách nhiệm pháp lý không dựa trên lỗi, nhưng việc xác định lỗi của các bên liên quan vẫn đóng vai trò quan trọng trong việc phân định trách nhiệm đối với thiệt hại do AI gây ra. Từ đó, bên triển khai có cơ sở thực hiện quyền yêu cầu hoàn trả khoản tiền bồi thường đã chi trả cho bên bị thiệt hại.

Xác định quan hệ nhân quả đối với thiệt hại do AI gây ra là một thách thức lớn, đặc biệt là đối với bên triển khai khi hành vi vi phạm của họ thường xuất phát từ việc phụ thuộc vào kết quả của hệ thống. Do sự tồn tại của hiện tượng “hộp đen” từ cơ chế học máy và học sâu vượt ngoài tầm kiểm soát, mối quan hệ nhân quả cần được đánh giá toàn diện và không nên yêu cầu phải chứng minh với sự chắc chắn tuyệt đối. Nhà làm luật cần xem xét đảo ngược nghĩa vụ chứng minh, theo đó trách nhiệm này được giao cho bên triển khai. Xác định trách nhiệm nghiêm ngặt đối với bên triển khai không chỉ để bảo vệ người bị thiệt hại, mà còn bảo đảm sự ổn định về mặt sử dụng công nghệ của quốc gia, không để AI đe dọa quyền làm chủ của con người. Bảo vệ an ninh công nghệ chính là bảo vệ sự phát triển bền vững của đất nước, tiếp tục khẳng định vai trò trung tâm của con người khi ứng dụng các hệ thống AI vào đời sống.

Nhà làm luật cần xem xét mở rộng hơn và theo hướng bỏ cụm từ “nếu có thỏa thuận giữa các bên” tại khoản 2 Điều 29 Luật TTNT. Trong trường hợp lỗi hoàn toàn thuộc về các bên có liên quan và bên triển khai không thể biết về sự tồn tại của những lỗi đó, bên triển khai có quyền yêu cầu hoàn trả khoản tiền thiệt hại đã chi trả cho người bị thiệt hại thông qua khởi kiện vụ án dân sự, mà không cần ràng buộc phải có sự thỏa thuận giữa các bên.

Theo pháp luật dân sự Việt Nam, đặc biệt là theo Luật TTNT, bên triển khai hệ thống AI có rủi ro cao có các nghĩa vụ về vận hành, giám sát, bảo đảm an toàn, bảo mật dữ liệu cùng trách nhiệm giải thích cơ chế vận hành và giải trình khi xảy ra thiệt hại. Bên triển khai cần tăng cường và chủ động giám sát hệ thống liên tục và thường xuyên, cho dù công việc này mang tính lặp đi lặp lại nhiều lần, thì họ vẫn không được chủ quan dựa vào những lần thực hiện công việc tương tự trước đó. Khi đã nắm rõ hệ thống thông qua nghĩa vụ cẩn trọng và giám sát, bên triển khai sẽ có đầy đủ cơ sở thông tin để giải trình khi xảy ra sự cố, thiệt hại. Việc càng hiểu rõ sự vận hành của hệ thống AI giúp bên triển khai giải trình càng hiệu quả, tuy nhiên, để đạt được sự giải trình tuyệt đối về hệ thống AI vẫn là điều chưa thể đạt tới ở hiện tại.

Việc lưu giữ thông tin, dữ liệu thông qua nhật ký vận hành hoặc sổ tay theo dõi không chỉ là hành vi kỹ thuật thuần túy, mà là nghĩa vụ cốt lõi minh chứng cho sự cẩn trọng pháp lý của bên triển khai trong quá trình vận hành hệ thống. Để cụ thể hóa nghĩa vụ này, bên triển khai cần chủ động xây dựng quy chế nội bộ, xác định rõ ràng các tiêu chuẩn về tính toàn vẹn, bảo mật và khả năng truy xuất nguồn gốc của dữ liệu nhằm kiểm soát hiệu quả hiện tượng hộp đen, đồng thời sẵn sàng cho trách nhiệm giải trình. Thời hạn lưu trữ thông tin sẽ phụ thuộc vào tính đặc thù của từng lĩnh vực hoạt động, tối thiểu từ 06 tháng hoặc một thời hạn hợp lý dài hơn.

Cần có một biện pháp trung hòa để hỗ trợ và khuyến khích bên triển khai sử dụng các hệ thống AI thông minh vào các hoạt động nghề nghiệp. Nhà nước cần hoàn thiện khung pháp lý về bảo hiểm trách nhiệm dân sự để góp phần phân tán rủi ro và giảm bớt gánh nặng bồi thường cho bên triển khai. Việc hoàn thiện các quy định không chỉ giúp phân tán rủi ro cho bên triển khai mà còn hỗ trợ các cơ quan quản lý trong việc kiểm sát và định hướng quá trình ứng dụng AI một cách bền vững. Tương lai chưa chắc đã thuộc về quốc gia có AI mạnh nhất, mà chắc chắn thuộc về quốc gia biết dùng AI để tổ chức lại toàn bộ nền kinh tế và bộ máy nhà nước của mình[14].

Bên cạnh việc nghiên cứu các quy tắc pháp luật về AI, Việt Nam cũng cần quan tâm phát triển các luật mềm dưới hình thức các hướng dẫn hoặc bộ quy tắc đạo đức về AI[15]. Cần nhận thức rằng, việc tạo ra các hệ thống AI có đạo đức không phải là tạo ra các hệ thống AI định hướng và đưa ra quyết định có đạo đức, mà phải xây dựng quy phạm đạo đức cho hệ thống AI trước khi ra quyết định, tức là hệ thống AI phải có nhận thức đạo đức trong nội tại quá trình xử lý của hệ thống.

“Hộp đen” trong hệ thống AI tồn tại một cách khách quan dựa trên cơ chế học máy và học sâu, với mức độ tự chủ và tính phi định hướng ngày càng cao, nằm ngoài sự kiểm soát của con người. Bên triển khai với vai trò vận hành trực tiếp hệ thống AI trên thực tế, phải chịu trách nhiệm cẩn trọng và giám sát hệ thống này một cách liên tục, thường xuyên. Dù không thể can thiệp trực tiếp vào quá trình xử lý nội tại, họ vẫn nắm quyền quyết định cách thức vận hành của hệ thống. Vì vậy, việc áp dụng trách nhiệm nghiêm ngặt đối với bên triển khai là phù hợp với quá trình phát triển hiện tại của công nghệ AI, nhằm bảo vệ tốt nhất quyền lợi cho người bị thiệt hại, đồng thời nâng cao nhận thức tuân thủ các nghĩa vụ khi vận hành./.

---