Nhưng trong khi những công nghệ này có thể giúp công nghệ lớn đạt được lợi thế trong việc chống lại mối đe dọa ngày càng tăng của tội phạm mạng, phát hiện gian lận và tự động hóa các quy trình như đăng ký khoản vay và kiểm tra tín dụng, đạo đức của IA cũng có thể trở thành một trong những thách thức lớn nhất của nó.
Cũng như sâu sắc công cụ hồ sơ cảnh sát bị lỗi, các thuật toán AI thiên vị cũng có thể làm sai lệch kết quả. Ví dụ: vào năm 2019, thuật toán được sử dụng bởi Apple Card đã xuất hiện thiên vị chống lại phụ nữ sau khi xác định “khả năng thanh toán” của người nộp đơn.
Tham gia TNW tại Valencia!
Nhưng đó không chỉ là sự thiên vị, dữ liệu tài chính có độ nhạy cảm cao sẽ bổ sung một khía cạnh mới cho cuộc tranh luận về việc thu thập dữ liệu so với quyền riêng tư của người dùng đang diễn ra ở EU. Trên thực tế, vào tháng 6 năm nay, Tòa án Công lý Liên minh Châu Âu đã ủng hộ một phán quyết cho phép các cơ quan quyền riêng tư quốc gia có nhiều thời gian hơn để rà soát công nghệ lớn thông qua khối.
Từ lâu đã phải đối mặt với quy định nặng nề, các ngân hàng truyền thống có thể dạy gì cho những người chơi mới này về việc xây dựng các năng lực AI công bằng, có đạo đức và được cơ quan quản lý phê duyệt?
Cần nhiều hơn dịch vụ môi để giải quyết sự thiên vị trong AI
Tội phạm mạng tiếp tục phát triển các kỹ thuật và phương thức tấn công của chúng. Khi AI ngày càng trở nên quan trọng trong cuộc sống hàng ngày của chúng ta, chẳng hạn như phát hiện các giao dịch khác với hành vi thông thường của khách hàng, thì vẫn còn nhiều thách thức.
Một ví dụ (hư cấu) về tác động tiêu cực có thể là một hệ thống phát hiện gian lận (vô tình) xếp các giao dịch của thanh niên vào hàng đợi để kiểm tra thủ công. Tác động tiêu cực là các giao dịch của họ được xử lý muộn hơn vài giờ và tác động tiêu cực mang tính cấu trúc đối với nhóm này.
Nhiều hệ thống AI thiên vị đã bị động thay vì chủ động. Chìa khóa để giải quyết các vấn đề đạo đức của AI là. không chỉ thường xuyên giám sát hệ thống của bạn mà còn có hướng dẫn rõ ràng về những gì thực sự tạo nên AI có đạo đức cho tổ chức của bạn
Giống như các công ty khác, ABN AMRO đang đánh giá AI và tiềm năng mà nó có thể mang lại cho khách hàng và nhân viên của mình. đồng thời xây dựng các chính sách đảm bảo tính công bằng trong ứng dụng AI.
Thu thập dữ liệu cá nhân
Các công ty công nghệ lớn như Amazon, Facebook và Google là những tổ chức cực kỳ mạnh mẽ và phổ biến, đặc biệt là khi thu thập dữ liệu cá nhân. Theo khám phá gần đây, Google giành giải lưu trữ nhiều dữ liệu cá nhân nhất, trong khi công ty bảo mật tốt nhất là Apple. Cả Twitter và Facebook đều được phát hiện lưu trữ nhiều dữ liệu hơn mức cần thiết, nhưng với Facebook, điều đó phụ thuộc vào dữ liệu mà người dùng tự nhập.
Do vị trí đặc quyền mà các công ty công nghệ lớn chiếm giữ, họ có thể khai thác dữ liệu họ đã có về người tiêu dùng. Tuy nhiên, chính việc thu thập dữ liệu này đã đặt ra câu hỏi về quyền riêng tư của người tiêu dùng, đặc biệt là khi nói đến các dịch vụ tài chính.
Chỉ thu thập dữ liệu cần thiết (tình cờ là một phần của GDPR) là điều mà các ông lớn công nghệ cần tính đến. Xu hướng không phải là mục tiêu duy nhất, nhưng nó phải là một phần của đề xuất AI lớn hơn và có trách nhiệm, có tính đến các quy định của các quốc gia khác nhau. Ví dụ: các quy định ở Hoa Kỳ khác với các quy định ở Châu Âu, mặc dù theo Wiggerman, Hoa Kỳ cũng đang đưa ra nhiều quy định giống như GDPR hơn trước đây.
Tính bảo mật, đạo đức và công bằng nên được thêm vào vòng đời phát triển sản phẩm ngay từ đầu. Nói cách khác, sự công bằng và riêng tư theo thiết kế. Nó không phải là thứ nên được thêm vào sau. Hãy nghĩ về bảo mật theo thiết kế. Các biện pháp bảo mật không nên được thêm vào sau mà hãy tính đến ngay từ đầu. Đạo đức AI nên thấm nhuần tất cả các chính sách rủi ro của bất kỳ công ty nào.
Làm việc cùng nhau
Mặc dù công nghệ lớn đang bắt đầu cung cấp nhiều dịch vụ tài chính hơn, nhưng một nhược điểm là nó thiếu dữ liệu tài chính lịch sử như ngân hàng truyền thống. Họ cũng thiếu kinh nghiệm trong xử lý tài chính.
Vào tháng ba, đó là báo cáo rằng ABN AMBRO đang hợp tác với tổ chức nghiên cứu khoa học Hà Lan TNO và công ty dịch vụ tài chính Hà Lan Rabobank để thực hiện một dự án MPC được thiết kế để chia sẻ và phân tích dữ liệu nhằm phát hiện tội phạm tài chính.
ABN AMRO không công khai bất kỳ nỗ lực chống tội phạm nào của mình; Tuy nhiên, Wiggerman giải thích rằng có sự hợp tác mạnh mẽ giữa các ngân hàng khi nói đến an ninh mạng. Khi một sự kiện xảy ra, thông tin được chia sẻ trên các dịch vụ ngân hàng thay vì coi bảo mật là một lĩnh vực cạnh tranh. Đây là nơi các công ty công nghệ lớn có thể khác biệt.
Khi nghĩ về công nghệ lớn, chúng ta thường nghĩ đến các tổ chức lớn cung cấp nền tảng truyền thông xã hội, trang thương mại điện tử hoặc viễn thông. Chúng tôi không tự động nghĩ đến AI và các dịch vụ tài chính. Xem xét thuật toán YouTube của Google và Alexa của Amazon, rõ ràng công nghệ lớn được điều khiển bởi AI và học máy.
Do đó, không có gì ngạc nhiên khi chính những công ty này đang chuyển sang dịch vụ tài chính, dịch vụ đang thay đổi nhanh chóng lĩnh vực ngân hàng. Nhưng để công nghệ lớn thực sự tham gia vào ngành, sự hợp tác giữa hai bên có thể là cách tốt nhất.
