Hawley chất vấn vụ AI của OpenAI tấn công Hugging Face.
Nguồn Video
Transcript tiếng Anh bởi Khetthe
📌 Lưu ý: Transcript được Khetthe xử lý và rà soát bởi đội ngũ con người kết hợp công cụ hỗ trợ nên vẫn có thể xuất hiện sai sót.
JOSH HAWLEY: Thank you, Senator Blumenthal. I just want to ask a few more questions, and I think I detect the beginnings of, dare I say it, a consensus here on this panel, which I think is very significant. And I just want to pursue this a little bit more. Why shouldn’t we start by imposing clear liability on the companies for the actions that their agents, quote, unquote, their AIs, as you’ve been calling them, Mr. Kokotajlo, that their AIs take, or that would be on the developers, impose similarly impose liability on the users of AI when they use AI in a reckless fashion. So in other words, why shouldn’t we just say it’s a standard doctrine of American law? If I can put it in layman’s terms, if you break it, you pay for it. If you cause damage, you’ve got to make it right. If you cause somebody harm, you’ve got to make them whole. Right now, as you said earlier, Professor Ohm, under our law, because of the unique position of these AI agents, it’s difficult to know exactly how the doctrine would deal with them. They may be able to. They, the companies may be able to escape liability. I’d suggest that maybe we start with some legislation, federal legislation, that would say is a matter of federal law and we can use existing statutes to do it. I propose using the Computer Fraud and Abuse Act. It’s already on the books. We can just update it to say that for developers, that’s the companies. If you develop these agents and train them in a reckless fashion and they go on to hack or crash or destroy stuff, you’re liable for users of the AI, if you’ve got these users, like the guys who use the anthropic to hack into OpenAI, if you use an AI model or agent in a reckless fashion, pick your liability standard, then you should be responsible.
JOSH HAWLEY: Why don’t we just do that? Why don’t we assign some liability? And here’s my thinking on this, is that I don’t have any confidence, zero, less than zero, in Congress’s ability to keep up with the technology, let alone anticipate it. I mean, there’s just no way we’re not going to be able to say, well, you know, you guys have made great suggestions about, here’s the sort of reporting regimens we need today. And I think that’s all great. It’ll probably be different tomorrow. I mean, you were saying a second ago, Dr. Hobbhahn, that pretty soon the. The AI agents will be able to speak to one another and we won’t be able to track it. But if the AI companies who were developing and training these agents knew that they were going to be liable for the bad stuff their agents did, I just am willing to predict, go out on a limb and just say that I think maybe they’d pay a little bit more attention to the development and training of these models. So let’s just start with that. Professor Ohm, am I off track here? I mean, isn’t this a good place to begin what we’ve been discussing here? Let’s impose both civil and criminal liability, but let’s make sure that we can actually open the courthouse doors so people can say, Listen, OpenAI, if your agents hack Hugging Face or crash a hospital system and we can show that you trained them recklessly or you developed them recklessly, you’re going to be liable.
PAUL OHM: Absolutely. And once again, I would start with making sure we do not preempt state law. That’s step one.
JOSH HAWLEY: And that’s because state Laws are tort law is mostly state law and it’s already on the books.
PAUL OHM: Absolutely. And you know, state UDAP laws, unfair and deceptive acts and practices. That’s a useful tool in the way you’re describing. I like the idea of both individual victims and state attorneys general having a role in playing this. The CFAA is not a well loved statute. Maybe offline I could talk to your staff about other things we might fix. It’s not gonna be the most popular vehicle for this, but absolutely, I’m with you that you know, finding the vehicle to make sure developers and deployers and it’s key that we have both of them are held to account for the harms that happen from their uses. 100%.
JOSH HAWLEY: Yeah. I mean let’s just give a practical example and Mr. Painter, you tell me if I’m wrong. My understanding is, is that in the hugging face hack from the OpenAI agents or by the OpenAI agents, OpenAI actually had safety mechanisms off. Is that right?
CHRIS PAINTER: Senator, That’s correct.
JOSH HAWLEY: All right, so let’s just say that one more time.
CHRIS PAINTER: They had monitoring systems off. I forget that.
JOSH HAWLEY: Yeah, monitoring systems were off at OpenAI during this attack. Now, if OpenAI knew for darn sure and certain that they were going to be liable to the tune of who knows how much that a jury might award, don’t you think maybe they would be a little more careful about monitoring what their agents were doing or. Mr. Kokotajlo, you’ve been talking about the amount of attention and money that’s devoted towards moving towards. What did you call it recursive self improvement versus making the models more efficient, making them cheaper, making them more user friendly. I don’t have any, I know nothing about the AI business. I don’t want to tell them how to run their business. I don’t know, I’m the wrong person to ask. But if we told them, Listen, if your AIs do bad stuff and harm people and you’ve been reckless in it, you’re going to be responsible, don’t you think that that would reshape their incentives a little bit?
DANIEL KOKOTAJLO: Thank you, sir. Yes, I completely agree, although I must say I don’t think it would go far enough. I do think that we should hold them liable for the damages that are caused. But I think if that’s all we do, then they’re going to continue to take reckless gambles and eventually they’ll be taking a gamble that’s big enough that we will suffer catastrophe.
JOSH HAWLEY: Dr. Hobbhahn, let me give you a chance to weigh in on this because you said something the other day that I think is very interesting and we’ve got, I think a board of it. You said it’s so economically valuable for these companies to build these AI systems, they’re going to limit, test how much misalignment you can get away with. In other words, naturally this is just the market forces, it’s the way the market works is competition. They are, their incentive is to innovate. Innovate, innovate, innovate. And they’re going to blow past what we’ve been calling safety limits and safety concerns. They’re going to blow past that unless we somehow make them pay for the harms that they cause. Isn’t that fair to say?
CHRIS PAINTER: Yeah, so what I meant with the statement is sort of a general comment about the, the situation on the ecosystem that we have right now where capabilities are moving drastically and increasing drastically while safety alignment and techniques cannot keep up. And then there is intense pressure to release models regularly which can lead to premature deployments and incidents like this. And so I’m worried about the voluntary nature of the current ecosystem and how it plays into the incentives of the overall companies.
JOSH HAWLEY: Well, I just think for my part, I think it’s time to change the game. And I think we don’t have to invent an entirely new system. We don’t have to reinvent the wheel. American law has worked beautifully when it comes to other products for literally centuries now. And as you pointed out, Professor Ohm actually goes back to the common law that predates the founding of this country. I mean, it’s worked pretty well for our civilization. And the way it works is because the law is itself a form of a marketplace, which is when individuals get hurt, you, if you give them the right to go in and say, hey, I’m going to hold the person who hurt me accountable, guess what? People change their behavior. And right now I’m worried. My biggest concern with AI among many, many, is that right now the incentives are all misaligned. These companies have every incentive to race, race, race against each other. They don’t have any incentive to think about, gee, what happens if I crash this hospital? Gee, what happens if I crash the banking system? They just think that’s somebody else’s problem. And we know they think that because when they talk about the doomsday machine they’re building, the next words out of their mouths are, and we would really like more exceptions from the government rules. We don’t want to be held accountable under antitrust. We want to be able to collude. That’s exactly the wrong thing to do. We should go in the opposite direction, hold them accountable and let people vindicate their rights. That’s my view. All right, Senator Kim, your turn.
Bản dịch tiếng Việt bởi Khetthe
📌 Lưu ý: Bản dịch được Khetthe xử lý bởi đội ngũ con người nhưng vẫn có thể xuất hiện sai sót.
JOSH HAWLEY: Cảm ơn Thượng nghị sĩ Blumenthal. Tôi chỉ muốn hỏi thêm một vài câu nữa thôi, và tôi nghĩ mình bắt đầu nhận thấy, nếu tôi dám nói ra, mầm mống của một sự đồng thuận ngay tại hội đồng này, điều mà tôi cho là rất quan trọng. Và tôi chỉ muốn đi sâu thêm vào điều này một chút nữa. Tại sao chúng ta không bắt đầu bằng việc áp đặt trách nhiệm pháp lý rõ ràng lên các công ty đối với những hành vi mà các tác nhân, “mở ngoặc đóng ngoặc”, các AI của họ thực hiện, như ông vừa gọi đấy thưa ông Kokotajlo, tức là trách nhiệm thuộc về các nhà phát triển, đồng thời áp đặt trách nhiệm tương tự lên người dùng AI khi họ sử dụng AI một cách liều lĩnh? Vậy nên, nói cách khác, tại sao chúng ta không chỉ đơn giản khẳng định đó là một nguyên tắc chuẩn mực của pháp luật Mỹ? Nếu tôi có thể nói theo cách bình dân, anh làm hỏng thì anh phải đền. Nếu anh gây ra thiệt hại, anh phải khắc phục. Nếu anh gây tổn hại cho ai đó, anh phải bồi thường đầy đủ cho họ. Bây giờ, như ông đã nói lúc nãy, Giáo sư Ohm, theo luật pháp của chúng ta, do vị thế đặc thù của các tác nhân AI này, thật khó để biết chính xác nguyên tắc pháp lý đó sẽ xử lý chúng ra sao. Họ có thể… Họ, tức là các công ty, có thể trốn tránh trách nhiệm pháp lý. Tôi đề xuất rằng có lẽ chúng ta nên bắt đầu bằng một đạo luật, một đạo luật liên bang, quy định đây là một vấn đề thuộc luật liên bang, và chúng ta có thể sử dụng các đạo luật hiện hành để làm điều đó. Tôi đề xuất sử dụng Đạo luật Gian lận và Lạm dụng Máy tính. Nó đã có sẵn trong luật rồi. Chúng ta chỉ cần cập nhật nó để quy định rằng đối với các nhà phát triển, tức là các công ty: nếu các ông phát triển các tác nhân này và huấn luyện chúng một cách liều lĩnh, rồi chúng đi tấn công mạng, làm sập hay phá hủy mọi thứ, các ông phải chịu trách nhiệm. Còn đối với người dùng AI, nếu các ông có những người dùng này, như những kẻ đã dùng Anthropic để xâm nhập trái phép vào OpenAI, nếu các ông sử dụng một mô hình hay tác nhân AI một cách liều lĩnh, chọn bất kỳ tiêu chuẩn trách nhiệm pháp lý nào, thì các ông phải chịu trách nhiệm.
JOSH HAWLEY: Tại sao chúng ta không làm ngay điều đó? Tại sao chúng ta không quy định một số trách nhiệm pháp lý? Và đây là suy nghĩ của tôi về vấn đề này, đó là tôi chẳng có chút lòng tin nào, bằng không, thậm chí dưới mức không, vào khả năng của Quốc hội trong việc bắt kịp công nghệ, chứ đừng nói đến chuyện dự đoán trước nó. Ý tôi là, hoàn toàn không có cách nào mà chúng ta lại không thể bảo rằng, chà, các vị biết đấy, các vị đã đưa ra những gợi ý rất tuyệt vời về việc, đây là loại chế độ báo cáo mà chúng ta cần ngày hôm nay. Và tôi nghĩ tất cả những điều đó đều rất tuyệt vời. Có lẽ ngày mai nó sẽ lại khác rồi. Ý tôi là, vừa một giây trước ông vừa nói đấy, Tiến sĩ Hobbhahn, rằng chẳng bao lâu nữa các. Các tác nhân AI sẽ có thể trò chuyện với nhau và chúng ta sẽ không thể theo dõi được điều đó. Nhưng nếu các công ty AI, những bên đang phát triển và huấn luyện các tác nhân này, biết rằng họ sẽ phải chịu trách nhiệm pháp lý cho những điều tồi tệ mà tác nhân của họ gây ra, tôi sẵn sàng đoán trước, đánh liều đưa ra nhận định và chỉ muốn nói rằng tôi nghĩ có lẽ họ sẽ chú ý hơn một chút đến việc phát triển và huấn luyện các mô hình này. Vậy nên chúng ta hãy bắt đầu từ điều đó thôi. Giáo sư Ohm, tôi có đang đi chệch hướng ở đây không? Ý tôi là, đây chẳng phải là một điểm khởi đầu tốt cho những gì chúng ta đã thảo luận ở đây sao? Chúng ta hãy áp đặt cả trách nhiệm dân sự lẫn trách nhiệm hình sự, nhưng hãy đảm bảo rằng chúng ta thực sự có thể mở cửa tòa án để mọi người có thể nói, Hãy nghe đây, OpenAI, nếu các tác nhân của các ông xâm nhập Hugging Face hay làm sập một hệ thống bệnh viện và chúng tôi có thể chứng minh các ông đã huấn luyện chúng một cách liều lĩnh hoặc các ông đã phát triển chúng một cách liều lĩnh, các ông sẽ phải chịu trách nhiệm.
PAUL OHM: Hoàn toàn đồng ý. Và một lần nữa, tôi sẽ bắt đầu bằng việc đảm bảo chúng ta không gạt bỏ luật tiểu bang. Đó là bước thứ nhất.
JOSH HAWLEY: Và đó là vì luật tiểu bang, luật bồi thường thiệt hại ngoài hợp đồng hầu hết là luật tiểu bang, và nó đã có sẵn trong luật rồi.
PAUL OHM: Hoàn toàn chính xác. Và ông biết đấy, các đạo luật UDAP của tiểu bang, tức là các hành vi và hành động không công bằng và lừa đảo. Đó là một công cụ hữu ích theo cách ông đang mô tả. Tôi thích ý tưởng cả các nạn nhân cá nhân lẫn các tổng chưởng lý tiểu bang đều có vai trò trong việc này. CFAA không phải là một đạo luật được ưa thích cho lắm. Có lẽ ngoài phiên họp, tôi có thể trao đổi với đội ngũ nhân viên của ông về những điều khác mà chúng ta có thể sửa đổi. Nó sẽ không là công cụ phổ biến nhất cho việc này, nhưng chắc chắn rồi, tôi ủng hộ ông rằng, ông biết đấy, tìm ra công cụ để đảm bảo các nhà phát triển và các bên triển khai, và điều then chốt là chúng ta phải có cả hai đối tượng này đều chịu trách nhiệm cho những thiệt hại xảy ra từ việc sử dụng, 100%.
JOSH HAWLEY: Vâng. Ý tôi là chúng ta hãy đưa ra một ví dụ thực tế đi, và thưa ông Painter, ông hãy nói cho tôi biết nếu tôi sai. Theo hiểu biết của tôi, đó là trong vụ tấn công Hugging Face từ các tác nhân OpenAI hoặc do các tác nhân OpenAI thực hiện, OpenAI thực chất đã tắt các cơ chế an toàn. Điều đó đúng không?
CHRIS PAINTER: Thưa Thượng nghị sĩ đúng như vậy.
JOSH HAWLEY: Được rồi, vậy hãy nhắc lại điều đó một lần nữa nào.
CHRIS PAINTER: Họ đã tắt các hệ thống giám sát. Tôi quên chi tiết đó.
JOSH HAWLEY: Vâng, các hệ thống giám sát đã bị tắt tại OpenAI trong suốt cuộc tấn công này. Bây giờ, nếu OpenAI biết chắc chắn mười mươi rằng họ sẽ phải chịu trách nhiệm pháp lý với số tiền bồi thường lên tới không biết bao nhiêu mà một bồi thẩm đoàn có thể phán quyết, ông có nghĩ có lẽ họ sẽ cẩn thận hơn một chút trong việc giám sát những gì các tác nhân của họ đang làm hay không? Hoặc là. Thưa ông Kokotajlo, ông đã nói về lượng chú ý và tiền bạc được dành để hướng tới. Ông gọi nó là gì nhỉ, tự cải tiến đệ quy, so với việc làm cho các mô hình hiệu quả hơn, làm cho chúng rẻ hơn, làm cho chúng thân thiện hơn với người dùng. Tôi không có bất kỳ, tôi chẳng biết gì về ngành kinh doanh AI cả. Tôi không muốn dạy họ cách vận hành doanh nghiệp của mình. Tôi không biết, tôi là sai người để hỏi rồi. Nhưng nếu chúng ta nói với họ rằng, Hãy nghe đây, nếu AI của các ông làm những điều tồi tệ và gây hại cho người khác và các ông đã liều lĩnh trong việc đó, các ông sẽ phải chịu trách nhiệm, ông có nghĩ điều đó sẽ định hình lại động lực của họ một chút không?
DANIEL KOKOTAJLO: Cảm ơn ông. Vâng, tôi hoàn toàn đồng ý, mặc dù tôi phải nói rằng tôi không nghĩ điều đó sẽ đi đủ xa. Tôi thực sự nghĩ rằng chúng ta nên buộc họ chịu trách nhiệm về những thiệt hại gây ra. Nhưng tôi nghĩ nếu đó là tất cả những gì chúng ta làm, thì họ sẽ tiếp tục thực hiện những cuộc đánh cược liều lĩnh, và cuối cùng họ sẽ đánh cược một ván đủ lớn khiến chúng ta phải gánh chịu thảm họa.
JOSH HAWLEY: Tiến sĩ Hobbhahn, hãy để tôi dành cho ông cơ hội đưa ra ý kiến về điều này, bởi vì hôm trước ông đã nói một điều mà tôi cho là rất thú vị và chúng tôi có, tôi nghĩ là một bảng trích dẫn câu nói đó. Ông đã nói rằng việc xây dựng các hệ thống AI này mang lại giá trị kinh tế quá lớn cho các công ty này, đến mức họ sẽ thử nghiệm giới hạn, kiểm tra xem họ có thể thoát khỏi mức độ lệch hướng an toàn đến đâu. Nói cách khác, theo lẽ tự nhiên thì đây chỉ là các lực lượng thị trường, đó là cách thị trường vận hành thông qua sự cạnh tranh. Họ đang, động lực của họ là đổi mới sáng tạo. Đổi mới, đổi mới, đổi mới. Và họ sẽ phớt lờ hoàn toàn những gì chúng ta vẫn gọi là các giới hạn an toàn và các mối quan ngại về an toàn. Họ sẽ phớt lờ hoàn toàn những điều đó trừ khi bằng cách nào đó chúng ta buộc họ phải trả giá cho những thiệt hại mà họ gây ra. Nói như vậy có đúng không?
CHRIS PAINTER: Vâng, vậy nên điều tôi muốn nói qua phát biểu đó là một dạng nhận xét chung về, về tình hình trong hệ sinh thái mà chúng ta đang có hiện tại, nơi mà các năng lực đang phát triển một cách mạnh mẽ và gia tăng vượt bậc trong khi việc tinh chỉnh an toàn và các kỹ thuật an toàn lại không thể theo kịp. Và rồi có áp lực dữ dội trong việc phải phát hành các mô hình một cách thường xuyên, điều có thể dẫn đến việc triển khai quá sớm và xảy ra những sự cố như thế này. Và vì vậy, tôi lo ngại về tính chất tự nguyện của hệ sinh thái hiện tại và cách nó tác động đến động lực chung của các công ty.
JOSH HAWLEY: Chà, cá nhân tôi chỉ nghĩ rằng, tôi nghĩ đã đến lúc thay đổi cuộc chơi rồi. Và tôi nghĩ chúng ta không cần phải phát minh ra một hệ thống hoàn toàn mới. Chúng ta không cần phải sáng tạo lại bánh xe làm gì. Luật pháp Mỹ đã hoạt động vô cùng hiệu quả khi áp dụng cho các sản phẩm khác trong thật sự suốt nhiều thế kỷ qua rồi. Và như ông đã chỉ ra, Giáo sư Ohm thực chất đã quy về thông luật có từ trước khi thành lập quốc gia này. Ý tôi là, nó đã hoạt động khá tốt cho nền văn minh của chúng ta. Và cách thức nó hoạt động là vì bản thân luật pháp là một dạng thị trường, đó là khi các cá nhân bị tổn hại, các vị, nếu các vị trao cho họ quyền đi vào và nói rằng, này, tôi sẽ buộc người làm tổn hại tôi phải chịu trách nhiệm, đoán xem điều gì sẽ xảy ra? Người ta sẽ thay đổi hành vi của mình. Và ngay lúc này tôi đang lo lắng. Mối bận tâm lớn nhất của tôi đối với AI trong số rất, rất nhiều mối bận tâm, đó là ngay lúc này tất cả các động lực đều bị chệch hướng. Các công ty này có mọi động lực để đua, đua, đua với nhau. Họ không có động lực nào để nghĩ xem, chà, điều gì xảy ra nếu tôi làm sập bệnh viện này? Chà, điều gì xảy ra nếu tôi làm sập hệ thống ngân hàng? Họ chỉ nghĩ đó là việc của người khác. Và ta biết họ nghĩ vậy vì khi nói về cỗ máy tận thế họ đang dựng nên, những lời tiếp theo từ miệng họ là: và chúng tôi thực sự muốn thêm ngoại lệ từ quy định chính phủ. Chúng tôi không muốn bị quy trách nhiệm theo luật chống độc quyền. Chúng tôi muốn được thông đồng. Đó chính xác là điều sai lầm. Ta nên đi hướng ngược lại, buộc họ chịu trách nhiệm và để người dân bảo vệ quyền lợi mình. Đó là quan điểm của tôi. Được rồi, Thượng nghị sĩ Kim, tới lượt ông.
Nguồn tài liệu Khetthe đã tham khảo khi phân tích
- https://openai.com/index/hugging-face-incident-and-the-road-ahead/
- https://www.business-standard.com/technology/artificial-intelligence/openai-fires-three-safety-researchers-over-alleged-breach-of-trust-126100900999_1.html
- https://www.businesswire.com/news/home/20260929036558/en/Public-Interest-Law-Nonprofit-LASST-Sues-OpenAI-Over-Autonomous-AI-Agent-Hacks