Công ty viễn thông bị phạt 1 triệu USD vì liên quan đến vụ lừa đảo deepfake Biden
Công ty viễn thông Lingo Telecom có trụ sở tại Texas đã bị Cục Quản lý Viễn thông Liên bang (FCC) phạt 1 triệu USD vì liên quan đến vụ lừa đảo deepfake liên quan đến Tổng thống Joe Biden.
Vụ lừa đảo này liên quan đến việc sử dụng một bản ghi âm giọng nói của Tổng thống Biden được tạo ra bằng trí tuệ nhân tạo (AI), và được phát tán qua các cuộc gọi tự động nhằm khuyến khích mọi người không tham gia bỏ phiếu trong cuộc bầu cử sơ bộ tại New Hampshire vào tháng Giêng.
FCC hành động mạnh tay
Theo thông cáo báo chí của FCC, khoản tiền phạt 1 triệu USD không chỉ là biện pháp trừng phạt mà còn là bước đi nhằm buộc các công ty viễn thông phải chịu trách nhiệm về nội dung họ cho phép được phát tán qua mạng lưới của mình.
Ngoài khoản tiền phạt, Lingo Telecom còn bị yêu cầu thực hiện một kế hoạch tuân thủ “lịch sử,” theo mô tả của FCC. Kế hoạch này bao gồm việc tuân thủ nghiêm ngặt các quy định xác thực ID người gọi của FCC, nhằm ngăn chặn các loại gian lận và lừa dối như vụ việc này.
Hơn nữa, Lingo Telecom hiện phải tuân thủ các nguyên tắc “Biết Khách Hàng” và “Biết Nhà Cung Cấp Cấp Trên” (Know Your Customer và Know Your Upstream Provider), những nguyên tắc quan trọng trong việc giúp các nhà cung cấp dịch vụ điện thoại theo dõi lưu lượng cuộc gọi hiệu quả và đảm bảo rằng tất cả các cuộc gọi đều được xác thực đúng cách.
Mối nguy đối với các quy trình dân chủ
Các cuộc gọi tự động, được tổ chức bởi cố vấn chính trị Steve Kramer, là một phần của nỗ lực rộng hơn nhằm can thiệp vào cuộc bầu cử sơ bộ tại New Hampshire. Bằng cách sử dụng công nghệ AI để tạo ra một bản mô phỏng giọng nói của Biden, các cuộc gọi này đã cố gắng thao túng và đe dọa cử tri, làm suy yếu quy trình dân chủ.
Kramer đã bị truy tố vì vai trò của mình trong việc thực hiện các cuộc gọi tự động vào ngày 23 tháng 5. Kramer, người đang làm việc cho ứng cử viên đối thủ Dean Phillips, bị truy tố vì đã giả danh một ứng cử viên trong cuộc bầu cử sơ bộ của Đảng Dân chủ tại New Hampshire.
Việc sử dụng công nghệ deepfake trong vụ lừa đảo này đặc biệt đáng lo ngại, vì nó đánh dấu một diễn biến mới và đáng lo ngại trong cuộc chiến chống lại thông tin sai lệch. Deepfakes, sử dụng AI để tạo ra các bản ghi âm hoặc video rất chân thực nhưng lại giả mạo, đe dọa nghiêm trọng đến tính toàn vẹn của các quy trình dân chủ.
Vào tháng Ba, Cointelegraph đã làm sáng tỏ vấn đề ngày càng gia tăng của các deepfake tạo ra bởi AI trong chu kỳ bầu cử hiện tại, nhấn mạnh sự cần thiết thiết yếu để cử tri phân biệt giữa sự thật và hư cấu.
Vào tháng Hai, một nhóm 20 công ty công nghệ AI hàng đầu đã cam kết đảm bảo rằng phần mềm của họ sẽ không được sử dụng để ảnh hưởng đến kết quả bầu cử.
