Amazon đang giám sát kìa!

a1-9273-1597812597

AMAZON ĐANG GIÁM SÁT KÌA

Gã khổng lồ Internet đang kết nối các gia đình, những người hàng xóm và rất nhiều thành phố bằng camera cùng microphone. Họ còn thúc đẩy cả hoạt động tình báo của cả nước nữa. Liệu có chắc rằng chúng ta có thể tin họ được không?

Will Oremus

[SOURCE]
L: 7500 word

=========

Khi nghĩ tới Amazon, có thể bạn sẽ nhớ đến chuyện so sánh là khi sắm sửa lúc đang ngồi ngay trên ghế nhà mình, mua đúng những thứ mình muốn ấy, sẽ rẻ hơn so với việc đến tận cửa hàng đó thế nào. Bạn sẽ mường tượng ra người giao hàng đặt một bưu phẩm ngay tại cửa nhà mình vào đúng thời điểm đó, và cả chuyện, nếu có bất cứ điều gì không như ý, bạn có thể gửi gói hàng đó lại ngay và được hoàn lại toàn bộ số tiền. Bạn lại nhớ mình có thể yêu cầu Alexa phát một bài hát hay chương trình TV nào đó hoặc bật mấy cái đèn và thật kỳ diệu là (thường thì) lần nào cũng được như ý. Bạn sẽ nghĩ tới mức chiết khấu cho món bơ tại Whole Foods (Amazon mới mua lại vào năm 2017 đó) nếu mình trở thành thành viên Prime.

Danh tiếng của Amazon trong việc phục vụ khách hàng bằng mức giá rất thấp và hiệu quả rất cao có thể góp phần giải thích được tại sao, trong rất nhiều cuộc khảo sát, công ty có trụ sở tại Seattle này trở thành thương hiệu giá trị nhất — không, được yêu mến nhất nước Mỹ. Một nghiên cứu mới gần đây phát hiện ra rằng Amazon là tổ chức được tín nhiệm thứ nhì theo bất kỳ nghĩa nào tại Mỹ, xếp trên cả Google, hệ thống cảnh sát và giáo dục đại học, họ chỉ xếp sau quân đội Mỹ mà thôi. Vào thời điểm một tràng dài các vụ bê bối liên quan tới quyền riêng tư và bầu cử khiến danh tiếng của Facebook bị hủy hoại, còn Google lại khốn khổ vì sự cấp tiến (radicalization) cũng như các vấn đề về kiểm duyệt nội dung của YouTube, Amazon trở nên mạnh mẽ hơn bao giờ hết.

Nhưng hình ảnh “cửa hàng mọi thứ” vui vẻ đáng tin cậy của Amazon lại trở thành một con quái vật khổng lồ bí mật — và các sản phẩm mà họ đang sản xuất giờ đây có thể đang dần hủy hoại quyền riêng tư của chúng ta, không chỉ khi trực tuyến mà còn cả trong thế giới thực nữa. Ngay cả khi các công ty công nghệ đối thủ đánh giá lại về những hoạt động dữ liệu, suy nghĩ về trách nhiệm của họ, và kêu gọi đưa ra các đạo luật mới, Amazon vẫn đang sản xuất gấp đôi số thiết bị giám sát, từ chối trách nhiệm của họ liên quan tới cách các thiết bị ấy được sử dụng, và phớt lờ những quan ngại mà các học giả, truyền thông, chính trị gia và cả chính nhân viên của họ đặt ra.

Lindsey Barrett, nhân viên luật sư tại Viện Pháp luật Georgetown về Đại diện cộng đồng cho rằng, “Chúng tôi hi vọng là họ sẽ không tạo ra một panopticon nào” (TN: panopticon: công trình cho phép ai đó có thể quan sát mọi buồng giam từ một điểm trung tâm). Tháng trước, trong lúc đang là cố vấn cho một nhóm bao gồm 19 tổ chức giám sát, viện này đã kêu gọi Ủy ban thương mại liên bang điều tra Amazon vì những vi phạm liên quan tới luật liên bang trong việc bảo vệ quyền riêng tư của trẻ em. Ngoài ra, họ còn phát hiện loa thông minh Echo Dot Kids Edition của Amazon còn lưu lại những bản ghi âm cũng như dữ liệu cá nhân của trẻ nhỏ ngay cả sau khi các phụ huynh đã thử xóa đi. Amazon đổ lỗi một phần vấn đề cho trục trặc phầm mềm, mà họ bảo là mình đã sửa từ lâu rồi.

Trong lúc người ta vẫn có thể quan sát kết quả của vụ đó thì, lời cáo buộc vẫn chỉ là phần nổi của tảng băng chìm mà thôi. Ngày nay Amazon chiếm một phần lớn trong lưu lượng internet công cộng, họ sử dụng trí tuệ nhân tạo để xử lý dữ liệu cho nhiều công ty và tổ chức rất lớn trên thế giới, bao gồm cả CIA; họ theo dõi thói quen mua sắm của người dùng để xây dựng những hồ sơ thật chi tiết dành cho việc quảng cáo đối tượng, đồng thời bán những bộ loa và màn hình được kết nối với cloud và chạy cả AI tới gia đình chúng ta. Họ mua lại cả một công ty sản xuất router wift dạng lưới có thể tiếp cận với lưu lượng Internet riêng tư của chúng ta cơ đấy. Thông qua công ty con Ring của mình, Amazon đặt camera giám sát ngay tại chuông cửa gia đình hàng triệu người đồng thời mời họ chia sẻ với hàng xóm và cả cảnh sát trên một mạng xã hội về tội phạm. Họ còn bán cả hệ thống nhận diện khuôn mặt cho cảnh sát và các công ty tư nhân nữa.

“Về cơ bản, Amazon đang bán nỗi sợ hãi”.

Amazon của ngày mai, theo như trong rất nhiều bằng sáng chế, hợp đồng đấu thầu và những gì được marketing, vẫn sẽ hiện diện ở khắp nơi. Thử nghĩ tới sự hiện hữu của camera tại chuông cửa của Ring xem, nhiều đến mức bạn chẳng thể bước ra khỏi nhà mà không kích hoạt cảnh báo tới hàng xóm và cảnh sát. Thử nghĩ tới những camera có hệ thống nhận diện khuôn mặt ấy, và cả việc chúng có thể phối hợp cùng nhau trong một hệ thống để nhận diện những gì người ta cho là đáng ngờ nữa. Cả camera giám sát của Ring trên những chiếc ô tô và drone giao hàng, máy báo khóc trẻ em của Ring tại nhà trẻ và các thiết bị Echo của Amazon tại khắp các nơi từ trường học, khách sạn cho đến bệnh viện nữa. Giờ thử tưởng tượng tới cảnh mọi chiếc loa và màn hình có tích hợp Alexa để nhận ra giọng nói của bạn, phân tích thói quen nói của bạn để biết khi nào bạn đang tức giận, đang mệt hay định mua hàng mà xem. Tuần trước Telegraph đã đưa ra báo cáo về một đăng ký sáng chế vào năm 2015, trong đó mô tả hệ thống được Amazon gọi là “giám sát dưới dạng dịch vụ”, có vẻ đây là một thuật ngữ phù hợp với nhiều sản phẩm mà họ đang bán đấy.

Đằng sau tất cả là một công ty có những lãnh đạo luôn luôn nghĩ rằng các quan ngại về quyền riêng tư bị thổi phồng lên quá đáng, những bất đồng chính kiến trong nội bộ là chuyện bình thường và khả năng các công nghệ của Amazon có thể bị ai đấy lạm dụng là vấn đề của người khác.

Andy Jassy, người đứng đầu mảng cloud của Amazon phát biểu tại Code Conference hồi đầu tháng này, “Công nghệ có thể được sử dụng sai cách không có nghĩa là chúng ta nên cấm đoán hay lên án nó”. Ông còn bảo rằng việc cấm đoán các hệ thống nhận diện khuôn mặt, những công cụ giám sát hữu dụng nhưng lại có xu hướng phân biệt đối xử với người da màu, cũng sẽ giống với chuyện cấm email hay dao mà thôi — hai món đồ công nghệ, một thứ mới và một thứ rất cũ có thể được dùng vào mục đích tốt hay xấu. Ông bảo, “bạn cũng có thể dùng dao một cách lén lút cơ mà”.

Mọi thứ mà Amazon đang cố tạo dựng, cần có khả năng sử dụng vì mục đích tốt đẹp. Camera chuông cửa của họ có thể tóm được những tên trộm cắp vặt; phần mềm nhận diện khuôn mặt của họ có thể giúp chính quyền theo dõi nghi phạm; trong mỗi gia đình, Alexa sẽ hữu dụng theo rất nhiều cách (thường thì là vậy). Nhưng khi bạn đặt các mảnh ghép lại với nhau thì, những cặp mắt, đôi tai được kết nối với cloud của công ty có thể tạo dựng một xã hội kiểu Owen (TN: tham khảo tiểu thuyết 1984 của Owen) khiến Facebook và Google – hai gã khổng lồ công nghệ có khả năng trở thành mối đe dọa lớn nhất với quyền riêng tư của mỗi khách hàng – trông nhật khiêm nhường mà.

NHỮNG ĐÔI TAI TRONG PHÒNG KHÁCH

Hãy bắt đầu với những thiết bị được tích hợp Alexa của họ, ví dụ như Amazon Echo, Echo Dot và Echo Show xem, ấy đều là một phần của nhà thông minh rồi đó. Họ đặt ra những chiếc microphone được kết nối Internet luôn trong trạng thái bật, thi thoảng còn có cả camera, tại nhà bếp, phòng khách và cả phòng ngủ của bạn nữa. Với những người hoang tưởng, chỉ riêng điều đó thôi đã khiến họ tránh xa những sản phẩm kia rồi: Tại sao phải mạo hiểm mở ra cánh cổng luôn hiện diện giữa Internet và những nơi thân mật nhất trong gia đình của bạn cơ chứ? Nhưng trên 100 triệu người mua hàng lại rất thích thú đấy, và còn tin rằng Amazon sẽ bảo vệ những bản ghi âm của họ cơ.

Amazon có nói rằng các thiết bị Echo sẽ chỉ bắt đầu ghi âm khi nghe thấy một từ khởi động (wake word) được cài đặt từ trước đó, ví dụ như “Alexa” chẳng hạn. Không may là, hệ thống này còn rất nhiều khuyết điểm — thể hiện rõ khi gần như mọi người dùng Alexa đều bị ngạc nhiên lúc thiết bị nghe nhầm từ khởi động và tự động kích hoạt. Alexa thường sẽ chọn lọc và lưu lại những mẩu đối thoại do nhầm lẫn và ít nhất một lần, Amazon đã vô tình gửi những bản ghi âm đó tới một người lạ mặt. Việc Amazon bỏ qua nhiều tính năng liên quan tới bảo mật dữ liệu mà loa thông minh của các hãng đối thủ đã tích hợp cũng không giúp tình hình khả quan hơn. Xóa những bản ghi của bạn trong Echo sẽ khó hơn so với trên Google Home hay Apple HomePod và Amazon quá chậm chạp trong việc đặt một màn trập vật lý trên camera của các thiết bị như Echo Show để canh chừng việc vô tình ghi hình. (Đồ của Facebook còn có.)

Đối với một công ty đang dẫn đầu cuộc cách mạng liên quan tới mối quan hệ giữa con người và máy móc thì, nhiều lúc có vẻ Amazon quá coi thường những lo sợ về quyền riêng tư. Trong một cuộc phỏng vấn năm ngoái trên podcast của Slate là If Then, tôi trò chuyện với hỏi phó chủ tịch của Amazon phụ trách Phần mềm cho Alexa là Al Lindsay, yêu cầu ông kể tên một mối quan ngại về quyền riêng tư dữ liệu liên quan tới Amazon mà ông cho là hợp lý hoặc một vấn đề thách thức liên quan đến quyền riêng tư nhân viên của ông đang cố gắng giải quyết. Ông bảo là chẳng thể nghĩ ra được điều gì.

Nhưng những cơ quan giám sát ở bên ngoài Amazon có tìm hiểu được một chút xíu đấy. Vào tháng Tư, Bloomberg nói rằng Amazon đang thuê hàng ngàn người trong rất nhiều văn phòng trên khắp thế giới để lắng nghe các bản ghi âm của những người dùng Alexa vô tư. Mục tiêu ở đây không phải là giám sát mà đơn thuần là nỗ lực cải thiện phần mềm của thiết bị này. Ấy là một hoạt động khá phổ biến trong các công ty đang huấn luyện cho AI. — người sử dụng những trợ lý số thông minh như Alexa và Siri đều là một phần của quá trình huấn luyện, dù họ có biết hay không — nhưng Amazon đã không tiết lộ rõ cơ chế hoạt động của hệ thống này với người dùng. Siri của Apple và Google Assistant cũng dùng con người để đánh giá, nhưng họ cũng thực hiện nhiều hành động giúp các bản ghi âm của người dùng được ẩn danh, còn bản thu của Alexa lại liên quan chặt chẽ với số tài khoản, seri thiết bị và cả tên của người dùng nữa.

Và rồi lại có nhiều cáo buộc cho rằng Echo Dot Kids Edition của Amazon đang vi phạm Đạo luật bảo vệ quyền riêng tư trực tuyến của trẻ em (COPPA). Ngoài việc lưu lại thông tin riêng của trẻ nhỏ ngay cả khi các phụ huynh đã cố xóa đi, thiết bị này còn bị cho là cố ý lưu trữ thông tin đó vô thời hạn và sử dụng phương pháp đồng thuận phụ huynh có sơ hở. Barrett đến từ Viện Đại diện cộng đồng nói rằng cô thấy thật khó tin khi một công ty lớn đến thế lại có thể vi phạm quyền riêng tư một cách trắng trợn như vậy đối với một thiết bị hướng đến trẻ em.

Về vấn đề này, công ty đã tuyên bố ám chỉ rằng họ có những phương thức rất chặt chẽ trong việc bảo vệ quyền riêng tư và bảo mật của khách hàng, và lưu ý rằng khách hàng có thể đánh giá và xóa những bản ghi âm của mình bất kỳ lúc nào trên ứng dụng Alexa hoặc bằng cách truy cập Alexa Privacy Hub trực tuyến.

Khi nghĩ đến chuyện Amazon đặt các thiết bị Alexa vào ô tôphòng khách sạnphòng học, và kể cả bệnh viện nhi, thật tò mò khi họ vẫn chưa làm tốt việc ‘push’ tới mọi người về các vấn đề liên quan đến quyền riêng tư và bảo mật (TN: ‘push’ trong marketing chỉ các hoạt động nhằm gửi thông điệp của doanh nghiệp tới người tiêu dùng). Có vẻ cuối cùng thì điều đó cũng sẽ thay đổi khi trong tháng trước, Amazon giới thiệu nhiều chức năng riêng tư mới của Alexa, trong đó bao gồm khả năng ra lệnh, “Alexa, hãy xóa mọi thứ tôi nói hôm nay đi.” Nhưng rồi hóa ra chức năng này lạikhá khó hiểu: Thay vì xóa những bản ghi âm mà bạn yêu cầu, Alexa sẽ chỉ cho bạn vào app Alexa trên smartphone của mình và bật nhiều những tùy chọn dài dòng. Sau cùng, bạn chỉ có thể dùng giọng nói để xóa các bản ghi âm trong ngày nào đó, chứ không phải một khoảng thời gian dài. Việc xóa đi mọi thứ là một quy trình tám bước đòi hỏi phải có app. Và Amazon vẫn không đưa ra tùy chọn tự động xóa bản ghi âm của bạn, giống như Google vẫn làm.

Tới giờ này, Amazon vẫn chưa đặt quảng cáo bằng giọng nói vào Alexa, việc làm này có thể củng cố hình ảnh của một công ty bán sản phẩm cho bạn, hơn là biến chính bạn thành sản phẩm. Nhưng điều đó không đồng nghĩa với việc Echo của bạn không thu thập dữ liệu từ bạn và kiếm tiền từ dữ liệu đó. Từ lâu rồi, nó đã ghi hết lại những đơn hàng bạn mua, những bản nhạc bạn thích để sử dụng khi gợi ý sản phẩm cho bạn. Và dù chưa thu hút được sự chú ý to lớn như Google hay Facebook, song ngành quảng cáo số của Amazon đang thực sự bùng nổ đấy: Giờ nó trở thành công ty lớn thứ ba trong thị trường mà hai gã khổng lồ kia thống trị rồi. Người ta đoán rằng Amazon sẽ chiếm gần 10 phần trăm trong thị trường trị giá 130 tỷ đô la vào năm 2019, theo một ước tính gần đây.

NHỮNG CON MẮT TRÊN ĐƯỜNG PHỐ

Và rồi Ring, startup “chuông cửa thông minh” mà Amazon mua lại với giá 1 tỷ $ hồi đầu năm 2018, tham gia cuộc chơi. Đa phần các gã khổng lồ Internet khác chủ yếu thực hiện những việc làm lén lút của họ đối với hoạt động trên mạng của người dùng mà thôi. Song Ring giúp Amazon, và chính bạn nữa, giám sát hoạt động của người khác trong thế giới thực. Những thiết bị kết nối Wi-Fi của họ được gắn ngoài cửa vào của các hộ gia đình và công ty, liên tục thăm dò trong bán kính 30 foot (khoảng 9,1m) đồng thời quay video mỗi khi phát hiện chuyển động. Người dùng có thể xem lại cảnh quay theo thời gian thực, đồng thời còn có thể trả phí để lưu trữ và xem lại các video.

Khả năng giám sát kiểu này không mới mẻ gì: Từ lâu rồi, các doanh nghiệp cũng như dinh thự đã có những hệ thống camera bảo mật đắt đỏ. Nhưng cũng giống như việc thương mại điện tử tồn tại trước cả khi được Amazon giới thiệu đến mọi người thôi. Ring đã làm dịch vụ này trở nên cực kỳ phổ biến bằng cách đặt các camera chuông cửa vào một kiện hàng đơn giản trị giá 200$ và marketing sản phẩm tới đa số các chủ căn hộ, thậm chí cả cơ quan cảnh sát nữa. Giờ đây Amazon trở thành kẻ thống trị trong thị trường camera chuông cửa, một phần của thị trường camera giám sát tại gia từng được phân tích có thể trị giá tới 10 tỷ $ vào năm 2023.

Chưa hài lòng với việc để người dùng giám sát mặt tiền trong nhà mình, Ring còn biến những chiếc camera của mình thành công cụ thu hút cộng đồng thông qua một ứng dụng có tên là Neighbors. Neighbors cho phép những người dùng Ring đăng tải, chia sẻ và bình luận từng đoạn video giám sát, đồng thời kèm theo cả tùy chọn có cho cảnh sát biết hay không. Trong một phát biểu của mình, Amazon tuyên bố, “Cảnh báo cộng đồng của Ring giúp những người hàng xóm luôn được an toàn thông qua việc khuyến khích cộng đồng làm việc trực tiếp với cảnh sát tại địa phương nhằm giải quyết những vụ án đang tồn tại”.

Tính năng này đã khiến một số cơ quan hành pháp cảm thấy khá choáng váng đấy. Một báo cáo mới của CNET cho biết các cơ quan cảnh sát từ Houston cho đến Hammond, Indiana đều đang trở thành đối tác với Amazon và còn giúp công dân của mình được giảm giá khi mua Ring đồng thời khuyến khích mọi người chia sẻ video trên Neighbors. Một viên chỉ huy cảnh sát tại Bloomfield, New Jersey nói với CNET rằng nhờ có Ring, “toàn bộ thành phố của chúng ta đều được camera quan sát”. Cảnh sát trưởng Mountain Brook, Alabama, nói với trang tin rằng quyền xem các đoạn video từ Ring của công dân mình thông qua Neighbors giúp cơ quan ông có thể tiếp cận với camera an ninh toàn thành phố, mà chẳng mất gì luôn. Amazon không yêu cầu người dùng chia sẻ video với cảnh sát, nhưng việc họ bắt tay với cơ quan cảnh sát khiến các sĩ quan có thể yêu cầu xem video của bất cứ người dùng nào — nhiều người sẽ cảm thấy khá kỳ quặc khi từ chối yêu cầu ấy. Người dùng sẽ ẩn danh trong ứng dụng này, dù địa điểm của họ là quá rõ ràng. Ring nói với OneZero rằng họ cam kết bảo vệ quyền riêng tư của người dùng, và lưu ý rằng họ không ủng hộ những chương trình yêu cầu khách hàng chia sẻ video với cảnh sát để được giảm giá thiết bị của mình.

Bạn có thể cho rằng nếu một gã khổng lồ công nghệ đặt chân vào thị trường giám sát thế giới thực tại thời điểm mà những quan ngại về quyền riêng tư đang được đẩy lên cao, họ sẽ hành động cực kỳ nhẹ nhàng. Nhưng trong trường hợp của Amazon, bạn nhầm rồi nhé. Dưới thời nhà sáng lập Jamie Siminoff của Ring — người kêu gọi đầu tư cho ý tưởng startup của mình trên Shark Tank — thông điệp nội bộ của công ty này đã cực kỳ quyết liệt. Vào năm 2016, Siminoff phát những chiếc áo t-shirt camo cho nhân viên mình, và tuyên chiến với “lũ tội phạm dơ bẩn”.

Nhưng trong chính công ty, ít nhất là cho đến trước khi được Amazon mua lại, hệ thống bảo mật đã nhiều lần xuất hiện những sơ hở: Trong nhiều vụ việc, người ta phát hiện Ring lưu mật khẩu WiFi của khách hàng dưới dạng văn bản rõ, và gửi những gói tin dữ liệu âm thanh nhỏ dài 20-miligiây tới máy chủ tại Trung Quốc, nơi bị chính phủ giám sát Internet cực kỳ gắt gao. Ring đã rất nhanh chóng giải quyết hai vấn đề này, đồng thời không có bằng chứng nào cho thấy sự việc dẫn đến hậu quả gì đấy. Hồi đầu năm 2016, Ring cũng cho các nhân viên nghiên cứu và phát triển tại Ukraine quyền truy cập vào những video cá nhân của người dùng để phân tích, theo như một báo cáo năm 2018 do The Information đưa ra. Sau đó Amazon kể lại vớiThe Intercept rằng hành động này chỉ được thực hiện với các video chia sẻ ở chế độ công khai trên ứng dụng Neighbors, nhưng lại từ chối cho biết chính sách này có hiệu lực từ bao giờ. Trong một tuyên bố của mình, Ring nói với OneZero rằng, “Là một công ty bảo mật đang thực hiện sứ mệnh giảm thiểu những hành động phạm pháp ở các khu dân cư, bảo mật luôn được Ring đặt lên hàng đầu, nó điều khiển mọi hoạt động chúng tôi thực hiện. Không ai có thể xem các đoạn video của người dùng trừ khi họ cho phép hoặc chia sẻ video đó”.

Amazon đã ủng hộ hành động đấu tranh với tội phạm này của Ring. Phó chủ tịch chuyên phụ trách các thiết bị của Amazon, Dave Limp, phát biểu tại một sự kiện vào tháng Chín, 2018, “Tôi chẳng thể nào nghĩ ra được sứ mệnh cao quý hơn. Đầu năm nay, Ring đã đặt quảng cáo hướng đối tượng trên Facebook cho các cư dân tại Mountain View, California, xem cảnh quay giám sát thực tế, trong đó một người phụ nữ đang cố gắng đột nhập vào một chiếc ô tô.

Chris Gilliard, một giáo sư Anh ngữ tại Đại học cao đẳng cộng đồng Macomb chuyên nghiên cứu về ảnh hưởng phân biệt đối xử trong công nghệ, nói rằng, “Về cơ bản, Amazon đang bán nỗi sợ hãi. Họ bán đi ý tưởng cho rằng một xã hội được giám sát sẽ an toàn hơn.” Nhưng còn phải xem xem bạn có phải người bị giám sát không nữa. Gilliard tin rằng Ring và Neighbors có thể khiến xã hội trở nên nguy hiểm hơn đối với người da màu, nhóm người bị gán mác là “đáng nghi” một cách cực kỳ bất công trên những mạng xã hội có các thiết bị giám sát khu dân cư. Ông bảo, trước đây, người dân có thể kể với hàng xóm hoặc báo cảnh sát nếu phát hiện ra một người trông có vẻ khả nghi, “nhưng có lẽ họ sẽ không thông báo tới toàn bộ khu dân cư đó đâu”. “Giờ thì có rồi đấy”.

NHỮNG BỘ NÃO TRÊN CLOUD

Dù phần lớn mọi người vẫn nghĩ rằng về cơ bản, Amazon là một công ty bán lẻ trực tuyến, nhưng phần lớn lợi nhuận của họ giờ đây lại đến từ Amazon Web Services (Dịch Vụ Web Amazon – AWS), theo ước tính, những máy chủ cloud của họ phục vụ tới gần một nửa hệ thống internet. Đối với những trang web nhỏ, AWS chủ yếu chỉ như một nhà cung cấp cơ sở hạ tầng mà thôi. Nhưng đối với một vài tổ chức, tập đoàn lớn nhất trên thế giới, AWS còn khai thác và phân tích dữ liệu, giải mã các văn bản, hình ảnh đồng thời đưa ra dự đoán và những đề xuất.

Các khách hàng đó bao gồm cả nhiều đơn vị hành pháp lớn và cơ quan tình báo, ví dụ như Bộ An Ninh Nội Địa, Bộ Quốc Phòng và CIA nữa. Năm 2017, Amazon còn lập ra cả một ban AWS đặc biệt nhằm xử lý tin tức tình báo tối mật từ phía chính phủ. Khách hàng của AWS còn có cả Palantir, hãng dữ liệu lớn tại Thung lũng Silicon do Peter Thiel đồng sáng lập ra, hãng này cung cấp phần mềm cho cả Cục Di Trú và Hải Quan Mỹ, ICE. (Có báo cáo nói rằng Amazon đã đề nghị làm ăn trực tiếp đối với ICE.) Giờ đây AWS đang cạnh tranh với Azure của Microsoft để có được một hợp đồng trị giá 10 tỷ đô la nhằm mời gọi lầu năm góc sử dụng cloud của mình, sau khi Google bỏ cuộc do sức ép tới từ chính nhân viên của mình.

Dịch vụ gây tranh cãi nhất của AWS là Rekognition, nền tảng sử dụng học máy (machine learning) để phân tích ảnh và các đoạn video. Giống với nhiều tính năng khác, Rekognition có khả năng ghép các khuôn mặt được nhận diện trong những đoạn video vào một tập hợp các khuôn mặt trong một cơ sở dữ liệu, cũng như công nghệ phân tích khuôn mặt có thể nhận diện được đặc điểm và biểu cảm của khuôn mặt. Một báo cáo vào năm 2018 do Liên đoàn dân sự tự do Mỹ (ACLU) đã nhấn mạnh cách mà Amazon marketing khả năng nhận diện khuôn mặt của họ tới các cơ quan hành pháp, đồng thời lại còn là đối tác với cảnh sát tại Orlando, Florida, và Washington County, Oregon.

Theo NPR, tại một hội thảo về lập trình ở Seoul, Ranju Das đến từ Amazon đã giải thích rằng cảnh sát ở Orlando có “camera quan sát khắp” truyền video thời gian thực từ khắp thành phố để Amazon phân tích. sau đó họ có thể so sánh các khuôn mặt trong video giám sát với một tập các tấm mugshot (ảnh chụp chân dung lúc bị bắt) trong một cơ sở dữ liệu để tạo dựng lại những nơi “kẻ tình nghi” thường hay lui tới. Một báo cáo của CNET hồi tháng Ba đã mô tả chi tiết cách Văn phòng Cảnh sát trưởng hạt Washington sử dụng Rekognition để nhận diện và bắt giữ một nghi phạm trộm cắp vặt.

Một vấn đề từng được đề cập chi tiết với các phần mềm nhận diện khuôn mặt ấy là thiếu chính xác, đặc biệt vào lúc cần phải xác định những người da màu. Trong một thử nghiệm vào năm 2018 do ACLU thực hiện, Rekognition đã ghép nhầm 28 thành viên trong Quốc hội với những bức mugshot của nhiều nghi phạm. Các thành viên Quốc hội là người da màu thường chiếm đa số trong những lần ghép cặp nhầm đó. Amazon nói rằng nghiên cứu này khiến người ta hiểu nhầm theo nhiều cách, bởi lẽ nó đã sử dụng ngưỡng tin cậy đối với mỗi lần ghép thấp hơn mức khuyến nghị của AWS, và còn dùng một phiên bản cũ của Rekognition nữa.

Ý tưởng tạo ra những công cụ AI và nhận diện khuôn mặt cho những tổ chức như Palantir và ICE có vẻ không được lòng nhiều nhân viên và cổ đông của chính Amazon — đặc biệt là vào thời điểm người nhập cư phải cách xa gia đình của mình đồng thời những đứa trẻ đến từ phía kia biên giới đang bị tước bỏ những quyền con người cơ bản nhất. Một nhân viên giấu tên ở Amazon đã viết trên Medium vào mùa thu vừa rồi nói rằng có 450 công nhân đã ký vào một bức thư gửi tới CEO Jeff Bezos kêu gọi công ty từ bỏ Palantir đồng thời ngừng cung cấp phần mềm Rekognition cho cảnh sát. Người này viết, “Các công ty như chúng ta không nên tham gia vào việc tiếp tay cho sự giám sát độc đoán ấy”. Trong một cuộc phỏng vấn có liên quan, nhân viên này nói rằng lá thư này đã được các lãnh đạo của Amazon đáp lại bằng “sự im lặng của radio.”

Không ngạc nhiên lắm khi biết rằng trước đấy phó chủ tịch AWS, Teresa Carlson, đã đưa ra “cam kết bất dịch” của công ty đối với cảnh sát và quân đội, cho phép họ sử dụng công nghệ nhận diện khuôn mặt tại một hội nghị về bảo mật hồi tháng 7, 2018. Hồi tháng 11, 2018, Gizmodo đưa ra báo cáo nói rằng CEO AWS, Andy Jassy, đã khẳng định lại việc marketing sản phẩm Rekognition của công ty tới cơ quan hành pháp tại một cuộc họp nội bộ. Ông nói rằng công nghệ này phần lớn sẽ mang tính tích cực, đồng thời nhấn mạnh công sức của một tổ chức đang sử dụng phần mềm để giúp tìm kiếm và giải cứu nạn nhân của nạn buôn người. Jassy nói thêm rằng nếu Amazon tìm ra được các khách hàng vi phạm điều khoản dịch vụ của mình hoặc quyền hiến pháp của con người, họ sẽ ngừng làm việc với các đối tượng ấy. Nhưng trước đó, khi Carlson được hỏi về chuyện liệu Amazon có vạch ra giới hạn hoặc nguyên tắc nào về những biện pháp phòng ngừa mà họ sẽ thực hiện không, câu trả lời của bà rất rõ ràng: “Chúng tôi chưa đưa ra nguyên tắc nào về chuyện này”.

Trong một bài đăng trên blog hồi tháng 2, 2019, Amazon đề xuất rằng phần mềm này cần trở nên khả dụng đối với một số bộ luật của quốc gia nhằm thúc đẩy tính minh bạch và sự tôn trọng đối với quyền con người, cùng nhiều mục đích khác. Điều đó là bước nối tiếp nhiều lần kêu gọi còn thẳng thắn hơn của Microsoft đối với những bộ luật liên quan tới công nghệ này vào năm 2018. Nhưng khi Microsoft đưa ra một tuyên bố về luân lý liên quan đến việc kiềm chế công nghệ này và liên tưởng nó với thảm họa kiểu 1984 (đọc tiểu thuyết 1984 để biết thêm), Amazon đã liên tục bênh vực cho việc sử dụng nó đấy. Công ty nói trên blog của mình, “Trong vòng hơn hai năm bán Rekognition, chúng tôi chưa hề nhận được báo cáo nào về chuyện cơ quan hành pháp sử dụng nó sai mục đích cả”.

GIÁM SÁT DƯỚI DẠNG MỘT DỊCH VỤ

Những hồ sơ sáng chế chẳng thể nói cho bạn biết được rằng một công ty đang cố tạo ra thứ gì đâu. Thường thì, các luật sư của hãng luật nào đấy luôn cố tính tới rất nhiều tình huống, phòng trường hợp vài yếu tố liên quan tới tài sản trí tuệ của họ có thể liên quan tới công việc. Nhưng các bằng sáng chế vẫn có thể tiết lộ công ty nào đó đang suy nghĩ gì về môi trường cạnh tranh của mình trong nhiều năm tới. Và nếu bằng sáng chế của Amazon có nói lên điều gì, thì ấy là, họ luôn coi sự bùng nổ của những công nghệ giám sát là một phần cốt yếu trong tương lai của mình.

Trong số đó, phần nhiều có liên quan tới Alexa và công nghệ nhận diện giọng nói. Một sáng chế năm 2017 thực thi một thuật toán “giám sát giọng nói” có thể chọn ra những từ khóa để chạy quảng cáo hướng đối tượng từ cuộc trò chuyện giữa những người bạn. Một sáng chế khác lại muốn nhận biết tình trạng sức khỏe và tâm trạng của mọi người từ những cơn ho, sụt sịt, hoặc âm điệu giọng nói của họ — và lại một lần nữa, lại đi kèm khả năng sử dụng quảng cáo hướng đối tượng.

Amazon còn có nhiều ý tưởng táo bạo khác cho tương lai của Ring nữa cơ. Hồi đầu tháng này, Quartz nói rằng Amazon đã được đăng ký nhãn hiệu cho nhiều loại thiết bị trong đó có camera gắn trên ô tô hoặc máy giám sát trẻ em, hay “các hệ thống giám sát gia đình và doanh nghiệp.” Một bằng sáng chế được đăng ký hồi năm 2015 đã cho thấy rõ rằng Amazon đã luôn luôn tư duy như vậy từ rất lâu trước khi mua Ring rồi: Sáng chế mô tả một hệ thống trong đó người dùng có thể thuê các drone vận chuyển gói hàng bay tới một địa điểm cố định và quay những đoạn video gián điệp. Amazon gọi ý tưởng này là“giám sát dưới dạng một dịch vụ

Thật đáng ngờ, ngay cả khi Amazon tung ra một sản phẩm mang cái tên cũng như chức năng phản địa đàng (dystopia) một cách trắng trợn như thế. Nhưng lại có một loạt các sáng chế khác được tiết lộ vào tháng 11 năm 2018, nghe có vẻ giống với việc mà công ty này định làm hơn. Họ mô tả lại cách một mạng lưới camera chia sẻ dữ liệu với nhau có thể được tận dụng song song cùng với phần mềm nhằm tự động nhận diện ai đang thuộc một cơ sở dữ liệu gồm những người đáng ngờ. Theo những gì CNN nói thì, việc này nghe có vẻ khá giống một lộ trình kết hợp công nghệ nhận diện khuôn mặt vào Ring và ứng dụng Neighbors. Một luật sư của ACLU mô tả đây là một “viễn cảnh khá phiền hà của tương lai”, trong đó người ta chẳng thể đi ra khỏi nhà mà không bị hàng xóm theo dõi.

Trong một phát biểu với OneZero, Ring đã nhắc lại rằng bằng sáng chế nào đó không nhất thiết phải phản ánh về một sản phẩm đang được phát triển. Họ nói, “Chúng tôi luôn luôn sáng tạo vì mọi người để biến những khu dân cư trở thành một nơi tốt đẹp, an toàn hơn, và bằng sáng chế này là một trong số rất nhiều ý tưởng để cải thiện các dịch vụ của chúng tôi”.

Loa thông minh, trợ lý giọng nói AI, camera chuông cửa và công nghệ nhận diện khuôn mặt trong những địa điểm công cộng luôn có những mặt tích cực của mình. Chúng đem lại sự tiện lợi, an tâm cho con người, cùng cả khả năng giải quyết những vụ án không giải được theo cách khác. Nhưng hãy xem xét tới những thứ khác nữa — khi một công ty cực kỳ khổng lồ kiểm soát tất cả dữ liệu và còn là đối tác cực kỳ thân thiết với cảnh sát và các cơ quan tình báo — và bạn sẽ có được một cơ chế giám sát trên quy mô mà cả thế giới chưa từng được chứng kiến.

Cứ cho rằng sẽ chẳng ai ngăn cản Amazon xây dựng nên mạng lưới này thì, giờ đây câu hỏi sẽ là liệu chúng ta có thể tin rằng công ty này sẽ chịu trách nhiệm, sẽ biết suy tính và cẩn thận trong việc thiết kế sản phẩm của họ và giám sát lượng dữ liệu cực lớn mà họ thu thập được — và rằng liệu chúng ta có thể tin rằng mọi người sử dụng công nghệ của Amazon cũng sẽ có trách nhiệm khi thực hiện chuyện đó không.

CLOUD Ở KHẮP NƠI

Trái ngược với Facebook, tập đoàn phải dành hết mấy năm gần đây để xin lỗi vì những sai phạm liên quan đến quyền riêng tư và hứa hẹn sửa chữa, dù vẫn chẳng đâu vào đâu, hoặc Apple, công ty đã biến quyền riêng tư thành một ưu thế bán hàng thì, tới giờ Amazon vẫn thể hiện rất ít sự quan tâm đối với những ảnh hưởng về mặt luân lý của khả năng giám sát cực kỳ mạnh mẽ của mình. Microsoft từ chối bán công nghệ nhận diện khuôn mặt của mình cho cảnh sát, Google còn không bán công nghệ đó cho bất kỳ bên nào, song Amazon lại đang bán nó cho rất nhiều cơ quan cảnh sát trên khắp cả nước.

Trong trường hợp nếu còn nghi hoặc nào về lập trường của Amazon về những ảnh hưởng đối với xã hội liên quan tới công nghệ giám sát của họ thì, CTO Werner Vogels đã đánh bài ngửa trong một sự kiện vào tháng Năm của công ty. Trong cuộc phỏng vấn với BBC, Vogels đã nói rằng, Amazon không có vai trò gì trong việc đảm bảo rằng hệ thống nhận diện khuôn mặt sẽ được sử dụng một cách có trách nhiệm. Ông bảo, “Đó không chuyện mà tôi có thể quyết định được. Công nghệ này đang được sử dụng vì mục đích tốt đẹp ở rất nhiều nơi. Chính xu hướng của xã hội mới quyết định xem công nghệ nào có thể áp dụng theo những điều kiện nào”.

Giọng điệu thực sự rất quả quyết đấy. Trong một hội thảo công nghệ ở San Francisco hồi tháng 10 năm 2018, Bezos đã nói rằng những hợp đồng quân sự của công ty thể hiện lòng yêu nước. Đồng thời ông so sánh sự phát triển công cụ giám sát công nghệ cao của công ty mình với việc phát minh ra sách vậy, một thứ từng được sử dụng vì cả mục đích tốt lẫn xấu. Theo một báo cáo của CNN, Bezos bảo, “Việc cuối cùng mà chúng ta muốn làm là dừng sự phát triển các công nghệ mới”. Ai đó có thể hy vọng rằng việc cuối cùng Amazon làm sẽ là phát triển ra những công nghệ mới gây hại, nhưng hiện tại đối với các lãnh đạo công ty, điều này đơn giản là thứ ngăn cản con đường sáng tạo của họ mà thôi.

Bezos có nhắc khẽ tới một mối quan ngại nho nhỏ, nhưng chỉ để gạt nó sang một bên cùng lúc đó mà thôi: “Tôi lo rằng một vài công nghệ trong số đó có thể trở thành công cụ hữu ích để các chế độ độc tài củng cố quyền lực của mình… nhưng đó chẳng phải chuyện mới mẻ gì, lúc nào cũng là như vậy. Chúng ta sẽ tìm ra cách sớm thôi.”

Ý tưởng cho rằng chắc chắn rồi sẽ có sự sáng tạo và rằng công ty công nghệ không phải người hướng dẫn cho mọi người xem công nghệ họ tạo ra sẽ được sử dụng như thế nào, đã trở thành chiến lược của các công ty công nghệ trong nhiều thập kỷ rồi. Điều này được thể hiện rõ trong biểu ngữ “hành động thật nhanh và phá phách mọi thứ” (move fast and break things) với niềm tin cho rằng những người sáng tạo nên đòi hỏi sự tha thứ hơn là xin phép người khác. Nhưng trong lúc những thiệt hại mà xã hội phải chịu vì những phát minh này ngày một tăng lên, những công ty từng-vi-phạm như Facebook, Google và Twitter — thậm chí chính nhân viên của họ còn thúc giục — đã chấp nhận một điều rằng thực ra có có trách nhiệm trong đó đấy, ít nhất là trong nhiều lĩnh vực, và rằng họ có sức mạnh để định hình lại điều đó một cách chủ động.

Song có vẻ như Amazon chưa tham gia vào nhóm này.

Gilliard, nhà nghiên cứu từng xem xét cách Ring và Neighbors tác động tới những nhóm người thiểu số, nói ông nghi ngờ rằng Amazon sẽ không thể duy trì thái độ hờ hững như thế đối với các sản phẩm của họ lâu nữa đâu — dù có cố ý hay không. Ông nói với tôi, “Amazon chưa đến lúc bị như Cambridge Analytica thôi”.

Tới lúc đó thật thì Amazon sẽ như thế nào nhỉ? Gilliard lưỡng lự một lúc, và rồi đưa ra một kịch bản giả thiết. Ông lưu ý rằng dịch vụ chuyển phát vào tận trong nhà Amazon Key sẽ cho phép người vận chuyển đặt các gói hàng vào trong tận gara của khách hàng bằng một khóa thông minh. (Trước đây lúc đầu nó sẽ đặt gói hàng ngay lối cửa trước của nhà họ.) Gilliard hình dung rằng một người giao hàng da màu của Amazon bước vào gara của một khách hàng, và vị khách nhận được cảnh báo về người đáng nghi từ một trong chính những sản phẩm của Amazon, ví dụ như Ring hay ứng dụng Neighbors. Tình hình có thể trở nên khá tồi tệ. Gilliard nói, “Tôi rất, rất mong rằng chuyện này sẽ không xảy ra: Tôi nghĩ rằng sẽ có người bị thương đấy. Một nhân viên của Amazon sẽ bị thương, bị bắt và bị tấn công”.

Nếu không có một vụ án đình đám, nổi bật trên các trang báo hoặc một cuộc khủng hoảng luân lý trong lương tâm của các nhân viên và ban giám đốc của Amazon thì, cách tốt nhất để phòng ngựa sự giám sát thái quá của công ty sẽ là luật pháp. Hồi tháng 5, San Francisco trở thành thành phố lớn đầu tiên tại Mỹ cấm công nghệ nhận diện khuôn mặt. Những người ủng hộ công nghệ này thấy rằng hành động đó quá bồng bột và nóng nảy. Nhưng chính một nhân viên ẩn danh của Amazon, Medium đã xác nhận danh tính người đó, lại cảnh báo rằng nếu không hành động sớm thì, “sẽ rất khó để khắc phục thiệt hại.” Khó như thể hình dung ra chuyện các cơ quan cảnh sát từ chối sử dụng Neighbors một khi họ đã phụ thuộc vào nó rồi ấy, trừ khi họ buộc phải làm vậy. Và dù ai đó vẫn hi vọng rằng Amazon sẽ không mang những thứ như công nghệ nhận diện khuôn mặt tới mấy chiếc chuông cửa — hoặc trên ô tô, hay drone chẳng hạn — thì những lãnh đạo vẫn chẳng cho mọi người thấy dấu hiệu nào chứng tỏ rằng họ coi đây là một vấn đề.

Amazon đã vượt qua được những rào cản về niềm tin xã hội trước đây rồi. Họ đã tạo nên một cửa hàng sách trực tuyến vào năm 1995, đúng một năm sau khi việc mua hàng trực tuyến được thực hiện lần đầu trong lịch sử Internet. Cùng với eBay, Amazon đã thuyết phục được mọi người tin rằng việc dùng thẻ tín dụng trực tuyến không hề điên rồ như những người đa nghi vẫn nghĩ đâu.

Dù công ty đã và đang phát triển theo những định hướng có vẻ khá phi lý, song họ luôn duy trì được sự tập trung cao độ trong việc cải thiện những quy trình khá rườm rà trước đấy, từ việc giao hàng nhanh và rẻ cho tới chuyện quản lý những công cụ thông minh bằng giọng nói. Bạn có thể thấy được những thay đổi tương tự trong công việc khi Rekognition tự động thực hiện công việc khó khăn ấy là so sánh mặt một nghi phạm với hàng trăm ngàn khuôn mặt trong cơ sở dữ liệu, và cả cách Ring dễ dàng nhắc nhở các khu dân cư cũng như cảnh sát khi có ai đó đáng nghi xuất hiện trong khu phố của bạn. Nhưng cũng nên đặt ra câu hỏi, trước khi chúng ta làm cho việc giám sát trở nên dễ dàng và phổ cập như cách mua hàng một-click của Amazon, rằng sau cùng thì, liệu xã hội có nên để cho một số việc rườm rà như trước đây hay không.

0 0 vote
Article Rating
Subscribe
Notify of
guest
0 Comments
Inline Feedbacks
View all comments
0
Would love your thoughts, please comment.x
()
x