Hệ thống xác thực giọng nói của Ngân hàng Lloyds bị qua mặt

Joseph Cox – phóng viên báo chí của Tạp chí Vice – san sẻ về việc sử dụng giọng nói do AI tổng hợp để qua mặt mạng lưới hệ thống nhận diện giọng nói của Ngân hàng Lloyds ( Anh ) .

Điều này đã gióng lên hồi chuông cảnh báo về các hệ thống tương tự đang được nhiều ngân hàng sử dụng.

Bạn đang đọc: Hệ thống xác thực giọng nói của Ngân hàng Lloyds bị qua mặt

Cách giọng nói AI qua mặt hệ thống xác thực

Hôm 22/2, Joseph gọi điện cho đường dây dịch vụ tự động hóa của ngân hàng nhà nước Lloyds. Để khởi đầu, ngân hàng nhà nước nhu yếu ông nói ra nguyên do gọi điện. Thay vì nói to, ông nhấp vào một tệp trên máy tính xách tay gần đó để phát đoạn âm thanh “ hãy kiểm tra số dư của tôi ”. Nhưng đó không thực sự là giọng nói của ông mà là một bản sao tổng hợp được tạo ra bằng công nghệ tiên tiến trí tuệ tự tạo .
“ OK ”, mạng lưới hệ thống của ngân hàng nhà nước vấn đáp. Sau đó, nó nhu yếu ông nhập hoặc nói ngày sinh của mình làm phần xác nhận tiên phong. Sau khi nhập, ngân hàng nhà nước nói “ vui mừng nói, ‘ my voice is my password ‘ ” .
Một lần nữa, Joseph phát một tệp âm thanh từ máy tính của mình. Hệ thống bảo mật an ninh của ngân hàng nhà nước mất vài giây để xác nhận giọng nói rồi nói “ Cảm ơn ”. Vậy là đã triển khai xong đăng nhập .
Joseph khó tin được rằng mình đã sử dụng một bản sao giọng nói do AI phân phối để đột nhập vào thông tin tài khoản ngân hàng nhà nước. Sau đó, ông có quyền truy vấn vào thông tin thông tin tài khoản, gồm có số dư và list những thanh toán giao dịch và chuyển khoản qua ngân hàng gần đây .
Các ngân hàng nhà nước trên khắp Mỹ và châu Âu sử dụng loại xác định bằng giọng nói này để cho phép người mua đăng nhập vào thông tin tài khoản của họ qua điện thoại cảm ứng. Một số ngân hàng nhà nước quảng cáo rằng nhận dạng giọng nói tương tự với dấu vân tay, một cách bảo đảm an toàn và thuận tiện để người dùng tương tác với ngân hàng nhà nước. Nhưng thử nghiệm này đã phá vỡ sáng tạo độc đáo rằng bảo mật thông tin sinh trắc học dựa trên giọng nói phân phối năng lực bảo vệ hoàn hảo nhất, giờ đây bất kể ai cũng hoàn toàn có thể tạo ra giọng nói tổng hợp với giá rẻ hoặc đôi lúc không lấy phí. Joseph đã sử dụng dịch vụ tạo giọng nói không lấy phí từ ElevenLabs, một công ty về giọng nói AI .
Giờ đây, việc lạm dụng giọng nói do AI tạo ra hoàn toàn có thể dẫn đến gian lận và hack. Một số chuyên viên mà Joseph đã chuyện trò sau khi thực thi thử nghiệm đã lôi kéo những ngân hàng nhà nước bỏ xác nhận bằng giọng nói .
Rachel Tobac, Giám đốc điều hành quản lý của Công ty SocialProof Security, nói ” Tôi khuyên tổng thể những tổ chức triển khai tận dụng ‘ xác nhận ‘ bằng giọng nói nên chuyển sang một giải pháp xác định danh tính bảo đảm an toàn, như xác nhận đa yếu tố, càng sớm càng tốt “. Kiểu sao chép giọng nói này hoàn toàn có thể được “ triển khai xong mà không cần phải tương tác với người đó trong đời thực ” .
Theo những chuyên viên, những kẻ lừa đảo trực tuyến hoàn toàn có thể sử dụng ElevenLabs để tạo bản sao giọng nói của một người mà không có sự chấp thuận đồng ý của họ bằng cách sử dụng những clip có giọng nói của họ trên mạng. Bất kỳ ai cũng có năng lực bị giả giọng – dù chỉ vài phút – giọng nói của họ được công khai minh bạch, ví dụ điển hình như những người làm video YouTube, người có ảnh hưởng tác động trên mạng xã hội, chính trị gia, nhà báo .
Trên website của mình, Ngân hàng Lloyds cho biết chương trình “ Voice ID ” của họ là bảo đảm an toàn. “ Giọng nói của bạn giống như dấu vân tay của bạn và là duy nhất so với bạn ”, website này viết. “ Voice ID nghiên cứu và phân tích hơn 100 đặc thù khác nhau của giọng nói, giống như dấu vân tay của bạn, là duy nhất so với bạn. Chẳng hạn như cách bạn sử dụng miệng và những hợp âm, giọng của bạn và vận tốc nói của bạn. Nó thậm chí còn còn nhận ra bạn nếu bạn bị cảm lạnh hoặc đau họng ” .
Nhiều ngân hàng nhà nước ở Mỹ cung ứng dịch vụ xác định giọng nói tương tự như. TD Bank có một dịch vụ gọi là “ VoicePrint ” và viết trên website của mình “ Giọng nói của bạn, giống như dấu vân tay của bạn, là duy nhất so với bạn — không ai khác có giọng nói giống như bạn ”. Chase có “ Voice ID ”, giống như Ngân hàng Lloyds, cũng công bố giọng nói của người mua “ được tạo ra từ hơn 100 đặc thù sức khỏe thể chất và hành vi khác nhau ”. Trong khi đó, “ Voice Verification ” của Wells Fargo “ bảo vệ danh tính của bạn một cách hiệu suất cao ” .

Mặc dù Joseph chỉ tiến hành thử nghiệm trên Ngân hàng Lloyds, nhưng do tính chất và chức năng tương tự của các hệ thống khác này, chúng cũng có thể gặp rủi ro trước giọng nói do AI cung cấp. Nhiều ngân hàng cho phép người dùng thực hiện nhiều tính năng ngân hàng qua điện thoại, chẳng hạn như kiểm tra lịch sử giao dịch, số dư tài khoản và trong một số trường hợp là chuyển tiền.

Xem thêm: Tai nghe SoundCore Life P2 A3919 | Giá rẻ, cao cấp

Đối với cuộc tiến công đơn cử như ví dụ nếu trên, kẻ lừa đảo sẽ cần ngày sinh của tiềm năng. Thực tế cho thấy, việc có được ngày sinh của tiềm năng không phải quá khó khăn vất vả do lúc bấy giờ có quá nhiều vụ lộ tài liệu và việc nhiều người sẵn sàng chuẩn bị san sẻ thông tin cá thể trực tuyến .

Lloyds nói gì?

Người phát ngôn của Ngân hàng Lloyds cho biết trong một công bố rằng “ Voice ID là một giải pháp bảo mật thông tin tùy chọn, tuy nhiên, chúng tôi tin yêu rằng nó phân phối mức độ bảo mật thông tin cao hơn so với những giải pháp xác nhận dựa trên kiến thức và kỹ năng truyền thống lịch sử và cách tiếp cận nhiều lớp của chúng tôi so với bảo mật thông tin và phòng chống gian lận liên tục cung ứng mức độ bảo vệ tương thích cho thông tin tài khoản của người mua, trong khi vẫn giúp họ thuận tiện truy vấn khi cần. ”
Ngân hàng Lloyds cho biết họ nhận thức được mối rình rập đe dọa của giọng nói tổng hợp và tiến hành những giải pháp đối phó, nhưng chưa thấy trường hợp giọng nói nào như vậy được sử dụng để triển khai hành vi lừa đảo so với người mua của mình. Họ cho biết giọng nói tổng hợp không mê hoặc so với những kẻ lừa đảo như những chiêu thức phổ cập hơn nhiều khác và Voice ID đã giúp giảm đáng kể gian lận với dịch vụ ngân hàng nhà nước qua điện thoại thông minh .
Do mức độ hiếm gặp của gian lận bằng giọng nói tổng hợp vào thời gian hiện tại, người tiêu dùng có năng lực sử dụng nó tốt hơn nếu điều đó bảo vệ họ khỏi những loại gian lận khác. Tuy nhiên, giả định này hoàn toàn có thể biến hóa nếu người mua là người của công chúng, với rất nhiều âm thanh chất lượng cao giọng nói của họ có sẵn trên internet .
TD Bank, Chase và Wells Fargo đã không vấn đáp nhu yếu phản hồi về việc liệu họ có biết giọng nói do AI cung ứng đang được sử dụng để nhắm tiềm năng thông tin tài khoản người mua hay không và họ đang triển khai những giải pháp giảm thiểu nào, nếu có, để ngăn ngừa mối rình rập đe dọa. Vào tháng 9/2022, những luật sư đã kiện một nhóm những tổ chức triển khai kinh tế tài chính của Mỹ vì bản ghi giọng nói sinh trắc học được sử dụng để xác lập người gọi vi phạm Đạo luật xâm phạm quyền riêng tư của California .
Cục Bảo vệ Tài chính Người tiêu dùng ( CFPB ), một trong những cơ quan của Mỹ quản trị ngành kinh tế tài chính, đã vấn đáp Joseph trong một công bố sau khi ông gửi video trình diễn : “ CFPB chăm sóc đến bảo mật thông tin tài liệu và những công ty được thông tin rằng họ sẽ chịu nghĩa vụ và trách nhiệm về thực hành thực tế kém chất lượng. Chúng tôi kỳ vọng rằng bất kỳ công ty nào cũng tuân thủ pháp luật, bất kể công nghệ tiên tiến được sử dụng là gì ” .
Trong vài tuần trước đó, Joseph đã thử nghiệm 1 số ít dịch vụ tạo giọng nói bằng AI. Hầu hết trong số những dịch vụ đó gặp yếu tố hoặc hạn chế trong việc tạo lại giọng Anh của ông, điều thiết yếu để truy vấn vào thông tin tài khoản Ngân hàng Lloyds. Cuối cùng, ông đã sử dụng ElevenLabs và ứng dụng này giải quyết và xử lý giọng tốt .
Để tạo giọng nói, ông đã ghi âm khoảng chừng năm phút phát biểu ( đọc những phần của luật bảo vệ tài liệu của châu Âu ) và tải nó lên ElevenLabs. Một thời hạn ngắn sau, giọng nói tổng hợp đã chuẩn bị sẵn sàng để sử dụng, với nội dung đọc bất kể văn bản nào được nhập vào website của ElevenLabs .
Thử nghiệm đăng nhập thông tin tài khoản ngân hàng nhà nước đã nhiều lần không thành công xuất sắc, khi mạng lưới hệ thống của Ngân hàng Lloyds cho biết mạng lưới hệ thống không hề xác nhận giọng nói. Sau khi thực thi một số ít kiểm soát và điều chỉnh trên ElevenLabs, ví dụ điển hình như để nó đọc phần văn bản dài hơn để làm cho nhịp điệu nghe tự nhiên hơn, âm thanh được tạo ra đã vượt qua mạng lưới hệ thống bảo mật thông tin của ngân hàng nhà nước .
Trên website của mình, ElevenLabs cho biết những trường hợp sử dụng của nó gồm có phân phối giọng nói cho những bản tin, sách và video. Nhưng với những giải pháp bảo vệ tối thiểu khi ra đời, mọi người đã nhanh gọn lạm dụng công nghệ tiên tiến của ElevenLabs. Các thành viên của 4 chan đã sử dụng ElevenLabs để tạo ra những phiên bản tổng hợp của những người nổi tiếng nói ra những điều phân biệt chủng tộc và chuyển giới. Sau đó, những kẻ lừa đảo đã sử dụng trình tạo giọng nói AI để tạo bản sao của những diễn viên lồng tiếng đơn cử và sau đó nhu yếu họ đọc địa chỉ nhà của những diễn viên đó trong những bài đăng trên Twitter ( những kẻ tiến công công bố công nghệ tiên tiến của ElevenLabs đã được sử dụng như một phần của vụ phá phách này, nhưng ElevenLabs chỉ công bố một clip khác, không gồm có địa chỉ của tiềm năng, được tạo bằng ứng dụng của nó ) .

Sau các clip của người nổi tiếng, ElevenLabs đã tweet để hỏi họ nên áp dụng các biện pháp bảo vệ nào, chẳng hạn như yêu cầu nhận dạng ID đầy đủ của người dùng hoặc yêu cầu thông tin thanh toán. Tuy nhiên, tạp chí Vice có thể tạo giọng nói mà không cần cung cấp ID hoặc bất kỳ thông tin thanh toán nào, có thể là do tài khoản được tạo trước khi ElevenLabs giới thiệu các biện pháp bảo mật mới. Chi phí tạo giọng nói qua mặt hệ thống xác thực ngân hàng là bằng 0 (miễn phí).

Xem thêm: Giọng Nghệ An vùng nào khó nghe nhất?

ElevenLabs đã không vấn đáp nhiều nhu yếu phản hồi. Trong một công bố trước đó, Mati Staniszewski, cựu kế hoạch gia tiến hành Palantir và hiện là đồng sáng lập của ElevenLabs, cho biết “ Các giải pháp bảo vệ mới của chúng tôi đã nhanh gọn giảm thiểu những trường hợp sử dụng sai mục tiêu và chúng tôi rất biết ơn hội đồng người dùng của mình vì đã liên tục gắn cờ bất kể trường hợp nào sử dụng sai mục tiêu cần phải bị giải quyết và xử lý và chúng tôi sẽ tương hỗ những cơ quan chức năng xác lập những người dùng đó nếu luật bị vi phạm ” .

Theo Vice

Source: https://thomaygiat.com
Category : Nghe Nhìn