AI dựng hình người chết được sử dụng tại tòa án

Tòa án ngày càng phải đối mặt với những thách thức và tình huống khó xử về mặt đạo đức trong việc tích hợptrí tuệ nhân tạo (AI) vào hệ thống tư pháp.

Trong một khoảnh khắc mang tính đột phá, một nạn nhân bị giết đã đưa ra lời tuyên bố gây chấn động tại tòa án—thông qua hình đại diện do AI tạo ra.

Sau khi Christopher Pelkey ​​bị giết trong một vụ tai nạn giao thông, chị gái anh, Stacey Wales, đã sử dụng AI để tái tạo giọng nói và hình ảnh của anh trai mình, thúc giục thẩm phán đưa ra bản án nghiêm khắc nhất có thể.

Khi cô ấy đang khóc lóc phát biểu tại tòa, một bước ngoặt bất ngờ đã xảy ra: Một video do AI tạo ra về Pelkey ​​xuất hiện, tha thứ cho kẻ nổ súng.

Vị thẩm phán bày tỏ sự ngưỡng mộ của mình đối với đoạn video và xúc động trước tuyên bố đầy cảm xúc này, đã tuyên án kẻ nổ súng mức án 10,5 năm tù - cao hơn mức án mà công tố viên đề nghị.

Chỉ vài giờ sau, luật sư của bị đơn đã nộp đơn kháng cáo, mở đường cho một cuộc tranh luận pháp lý mới về vai trò của AI trong quá trình tố tụng tại tòa án.

Hệ thống tư pháp đối mặt với những thách thức mới khi AI chiếm ưu thế trong phòng xử án

Luật sư bào chữa Jason Lamm có thể không xử lý đơn kháng cáo, nhưng ông dự đoán tòa án cấp cao hơn sẽ sớm giải quyết liệu thẩm phán có dựa sai vào video do AI tạo ra khi tuyên án cho thân chủ của mình hay không.

Việc sử dụng AI trong phòng xử án đang phát triển nhanh chóng, thúc đẩy các chuyên gia pháp lý xem xét kỹ lưỡng vai trò của nó trong các thủ tục tố tụng.

Điều này đặc biệt đúng sau khi gia đình Pelkey ​​sử dụng AI để trình bày tuyên bố về tác động đối với nạn nhân - một động thái chưa từng có tại tòa án Hoa Kỳ.

Để đáp lại, Tòa án Tối cao Arizona đã thành lập một ủy ban để nghiên cứu các hoạt động thực hành tốt nhất của AI và Florida gần đây đã chứng kiến ​​một thẩm phán sử dụngthực tế ảo (VR) ) để đánh giá yêu cầu tự vệ của bị đơn.

Trong khi đó, tại New York, một người đàn ông không có cố vấn pháp lý đã cố gắng tranh luận vụ án của mình bằng cách sử dụng hình đại diện AI, khiến các thẩm phán nhanh chóng nhận ra bản chất nhân tạo của bài thuyết trình.

Khi công nghệ AI ngày càng được tích hợp sâu hơn vào quá trình tư pháp, nó sẽ làm dấy lên những lo ngại đáng kể về mặt pháp lý và đạo đức.

Các chuyên gia cảnh báo rằng AI có khả năng thao túng, có khả năng tác động đến thẩm phán hoặc bồi thẩm đoàn một cách không công bằng, đặc biệt là trong các trường hợp liên quan đến cộng đồng thiểu số.

David Evan Harris, một chuyên gia về AI deep fake tại trường kinh doanh UC Berkeley, cho biết:

"Tôi cho rằng đó sẽ là một hình thức bằng chứng gây tranh cãi, một phần vì nó có thể là điều có lợi cho các bên có nhiều nguồn lực hơn so với các bên không có."

Các học giả luật pháp đang nghiên cứu cáchTrí tuệ nhân tạo giao thoa với các chiến thuật thuyết phục và thao túng.

Cynthia Godsoe, giáo sư luật tại Trường Luật Brooklyn, nhấn mạnh rằng tòa án sẽ ngày càng phải đối mặt với những thách thức mới, chưa từng có, chẳng hạn như xác định liệu hình ảnh hoặc video do AI tạo ra có phản ánh chính xác lời khai của nhân chứng hay không hoặc liệu những hình ảnh kỹ thuật số này có thể làm sai lệch nhận thức về đặc điểm của bị cáo hay không.

Bà phát biểu:

"Đây chắc chắn là một xu hướng đáng lo ngại vì nó có thể trở thành bằng chứng giả mạo mà có thể mọi người không nhận ra là sai."

Từ hiện trường tội phạm ảo đến hiện thân AI của người chết: AI có đang vượt qua ranh giới trong thế giới pháp lý không?

Trong vụ án ở Arizona, Wales thừa nhận những vấn đề về đạo đức và luân lý mà cô phải đối mặt khi quyết định sử dụng AI để trao quyền lên tiếng cho người anh trai đã khuất của mình trong phiên tòa tuyên án.

Wales giải thích:

"Điều quan trọng với chúng tôi là phải tiếp cận vấn đề này bằng đạo đức và luân lý và không lợi dụng nó để nói những điều mà Chris không muốn nói hoặc không tin."

Trong khi luật pháp Arizona cho phép gia đình nạn nhân trình bày các tuyên bố tác động ở bất kỳ định dạng kỹ thuật số nào, luật sư về quyền của nạn nhân Jessica Gattuso, người đại diện cho gia đình, đã làm rõ rằng chỉ có Wales và chồng cô biết vềTrí tuệ nhân tạo video trước.

Cô ấy nói thêm:

"Mục đích là để nhân cách hóa Chris và tiếp cận được thẩm phán.”

Sau khi xem đoạn video tại tòa, Thẩm phán Tòa án cấp cao Quận Maricopa Todd Lang đã bày tỏ sự ngưỡng mộ trước những gì ông mô tả là "vẻ đẹp" trong lời nói của Pelkey.

Thẩm phán lưu ý:

"Nó cũng nói lên điều gì đó về gia đình. Bởi vì anh đã nói với tôi rằng anh tức giận như thế nào, và anh yêu cầu mức án tối đa, và mặc dù đó là điều anh muốn, anh đã cho phép Chris nói từ trái tim mình như anh thấy."

Tuy nhiên, luật sư của bị cáo sau đó chỉ ra rằng những bình luận này có thể đóng vai trò trong việc tìm cách lật ngược bản án khi kháng cáo.

Điều này đặt ra một câu hỏi quan trọng: liệu xã hội có nên đưa ra lập trường đạo đức cứng rắn chống lại việc sử dụng hình ảnh AI về người đã khuất trong các thủ tục pháp lý hay không?

Vụ án này nhấn mạnh mối giao thoa ngày càng tăng giữa công nghệ và công lý, kêu gọi sự suy ngẫm sâu sắc hơn về ý nghĩa của những đổi mới kỹ thuật số như vậy.