Đạo đức trong thiết kế trải nghiệm (UX) sản phẩm: Trắng đen liệu có rõ ràng?

Chúng ta đang sống trong một thế giới mà các vật dụng hằng ngày của chúng ta có thể kết nối, tương tác, được quản trị thông qua các thuật toán. Các sản phẩm số tác động và hỗ trợ chúng ta trong các tương tác hằng ngày. Tuy nhiên, bên dưới back-end, phía sau những sản phẩm thành công, những dữ liệu họ thu thập từ người dùng lại là thứ xâm phạm tới những giá trị xã hội như quyền riêng tư, quyền tự chủ và công bằng.

Hơn một năm trước, Mark Hurst từng đặt ra vấn đề rằng những UX designer tài năng nhất, có mức lương cao nhất, đang làm việc cho các công ty công nghệ lớn để tối đa hóa thời gian sử dụng và tương tác của người dùng, thay vì thực sự hỗ trợ và giải quyết vấn đề cho họ.

“UX giờ đã hoàn toàn thay đổi, từ ủng hộ chuyển sang chống lại lợi ích của người dùng. Để đạt được lợi nhuận, UX trở thành công cụ để khai thác người dùng”

Dù ý kiến của Hurst rất hợp lý nhưng tôi vẫn có một chút không đồng tình. Với tôi, vấn đề này nghiêm trọng hơn thế và có vẻ cộng đồng UX không ý thức đầy đủ về trò chơi đằng sau những hoạt động thiết kế hằng ngày của chúng ta. Bài viết này sẽ trình bày nó, những tay chơi đang tạo mối bận tâm về đạo đức của UX gần đây.

Giám sát và khai thác dữ liệu thô

Đầu tIên, với vai trò là những nhà nghiên cứu, thiết kế UX, công việc của chúng ta là lý do chính để thu thập dữ liệu người dùng. Bởi chúng ta cần hiểu người dùng hơn để cải thiện sản phẩm. Thứ hai, việc thu thập dữ liệu người dùng dường như vô hại, miễn sao không ai động tới dữ liệu thô. Và để cho an toàn, chúng ta thu thập nhiều nhất có thể.

Không may thay, cả hai lập luận trên đều không đúng. Nghĩ rằng có thể dùng dữ liệu thô để đưa ra quyết định là san lầm. Bởi dữ liệu phụ thuộc rất nhiều vào văn hóa và xã hội. Ngày cả chúng ta có chủ đích từ trước, dữ liệu không tự sinh ra, ngược lại, chúng ta phải tạo ra chúng. Thời điểm quyết định tạo ra dữ liệu, chúng ta phải hình dung ra những đóng góp của nó cho mục đích của chúng ta. Thu thập, quản lý và lưu trữ dữ liệu là những hoạt động sẽ làm hao tổn dữ liệu theo một cách nhất định.

“Dữ liệu của tôi là dữ liệu thô, tuy nhiên, ngay khi tôi có bất cứ diễn giải nghiêm túc nào cho nó, tôi đã cắt gọt nó theo diễn giải ấy” - trích từ “raw data” is an oxymoron.

Nhưng có thực là cải tiến sản phẩm là lý do chính đằng sau việc thu thập một khối lượng dữ liệu lớn về hành vi của người dùng?

Năm 1986, Roger Clarke đặt ra thuật ngữ “giám sát dữ liệu” để giải thích việc theo dõi, tổng hợp, phân loại dữ liệu cá nhân của một người hoặc một nhóm người nhằm phục vụ việc kiểm soát xã hội. Có thể bạn sẽ nghĩ rằng chẳng có gì lo nếu bạn không làm gì sai trái. Nhưng điều gì sẽ xảy ra nếu tôi nói cho bạn biết rằng định nghĩa “sai” là câu hỏi lớn trong xã hội số hiện nay? Có gì sai không khi tham gia cộng đồng LGBTQ? Có sai khi tham gia biểu tình? Có sức khỏe kém? Nợ nần? Hay thuộc về một chủng tộc nào đó? Có rất nhiều định nghĩa trái ngược về “sai” và tất cả chúng ta sẽ đều sai với một quan điểm nhất định.

Đọc thêm: Làm thế nào để đo lường và xác định giá trị của dữ liệu - data?

Hiểu người dùng để cải tiến sản phẩm chỉ là cái cớ. Lý do thực sự đằng sau việc người ta đầu tư rất nhiều vào thu thập dữ liệu hành vi là để biến chúng thành “sản phẩm dự đoán” cho bối cảnh một xã hội giám sát. Tương lai của con người sẽ được dự đoán dựa trên những dữ liệu mang định kiến, phân biệt đối xử được thu thập với quy mô toàn cầu, cùng sự hỗ trợ của chúng ta, những UX designer.

Những vị thánh mới và sự giám sát của Chủ nghĩa tư bản

AI, machine learning và mô hình dự đoán trở thành những vị thánh mới. Nhưng đáng buồn, chúng là thứ phục vụ cho lợi nhuận của một số công ty hoặc để duy trì trạng thái quốc gia, dù chúng là công cụ phân biệt đối xử, chia cắt xã hội.

Vấn đề này đã được Cathey O’Neil đề cập trong Weapons of Math Destruction (WMD). Cô ấy trình bày cách xã hội thông tin của chúng ta tạo ra các vị thần thuật toán, với những hộp đen như những linh vật không ai có thể chạm tới. Các thuật toán này còn có thể điều kiển và quản trị chúng ta. Lấy ví dụ từ nghiên cứu về Facebook, những người tiếp cận tới ít nội dung vui vẻ có xu hướng đăng nhiều nội dung tiêu cực hơn và ngược lại. Nói cách khác, Facebook tác động tới tâm trạng của hàng triệu người, thứ họ học, thứ họ vote. Công cụ mà chúng ta gọi là “quản trị thông minh” cũng được ứng dụng những thuật toán như thế. Chúng được dấu khỏi công chúng, được ứng dụng cho việc trừng phạt người nghèo, đổi lỗi cho người bị vây bởi tội phạm, phân biệt đối sử trong quá trình tuyển dụng. 

Rất ít người được chứng kiến hay làm việc với các thuật toán của các công ty công nghệ lớn. Guillaume Chaslot, một cựu kỹ sư của Youtube với bằng tiến sĩ khoa học máy tính, là người đã nhiều lần cố gắng cảnh báo mọi người. Anh cho biết, thuật toán ấy không hề tối ưu cho sự trung thực, cân bằng hay sức khỏe xã hội. Các công ty công nghệ kiểm soát một khối lượng nội dung lớn đang tạo ra những thực tế ảo cho xã hội bằng cách tối ưu hóa thời gian, tương tác và sự chú ý cho sản phẩm.

Đọc thêm: Tương lai của Big Data với các xu hướng và tiến bộ công nghệ

Chúng ta đã luôn bị theo dõi trong hơn hai thập kỷ qua, dữ liệu hành vi của chúng ta đã trở thành một mặt hàng mới phục vụ cho việc tiếp thị. Họ thu thập trải nghiệm cá nhân, xử lý chúng qua hộp đen machine learning để tạo ra “sản phẩm dự đoán”. Nhưng dữ liệu và insight dự đoán về tương lai sẽ được bán để phục vụ mục đích thương mại cho những công ty khác. Shoshana Zubbof gọi đó là thời đại mới, “thời đại của sự giám sát tư bản”. Trong thời đại này, các công ty cung cấp những sản phẩm miễn phí, giải quyết vấn đề cho người dùng, tuy nhiên, cái giá họ thực sự phải trả đó là thông tin và dữ liệu cá nhân.

Lấy con người làm trung tâm trở thành bóc lột con người

Tôi đã đọc rất nhiều tài liệu về thiết kế lấy con người làm trung tâm, thứ tôi tin rằng là bản chất của rất nhiều phương pháp thiết kế sản phẩm/UX ngày nay. Lấy con người làm trung tâm là những hoạt động giải quyết các vấn đề của con người, từ giao diện đối thoại cho tới quy trình thiết kế. Nó là khái niệm mới, nơi chúng ta tập trung vào nhu cầu của người dùng, thay vì trực giác của nhà thiết kế.

Ngày nay, nếu bạn để ý xu hướng thiết kế UX, bạn sẽ thấy những thuật ngữ như phát triển công bằng, tối ưu khả năng tiếp cận. Đi kèm đó, bạn cũng sẽ thấy những thông báo về một tỷ người dùng tiếp theo của Google, hay Facebook muốn phủ internet đến những vùng thiếu thốn. Tuy nhiên, hãy nhớ về việc giám sát dữ liệu và sản phẩm dự đoán. Trò chơi ngầm của những xu hướng ấy là việc lấy nhiều thật nhiều dữ liệu hành vi, thứ không nhân văn hay công bằng.

Tại sao các công ty phải chi ra hàng tỷ đô la để những người nghèo nhất có thể tiếp cận tới sản phẩm của họ? Tương tự khi Google tạo ra hệ điều hành Android, tập trung sản xuất những smartphone giá rẻ, những gì họ muốn là dữ liệu. Họ thực hiện chúng đằng sau lá cờ của phong trào thiết kế toàn diện, tiếp cận và công bằng. Trong khi, chúng ta, những nhà thiết kế, đang hợp lý hóa mục đích ấy giúp họ.

Đọc thêm: Casestudy: Thiết kế giải pháp tiếp cận khách hàng với hệ sinh thái API

UX thường ứng dụng những phương pháp che dấu giá trị, gây hại. Khi công ty thực hiện những thử nghiệm A/B để chọn thiết kế, yếu tố để quyết định sẽ là khả năng tương tác chứ không phải giải quyết vấn đề cho người dùng. Họ không cho chúng ta thấy thứ chúng ta muốn hay cần, mà thấy thứ chúng ta sẽ phải nhìn, click và cuộn.

Có rất nhiều tác hại của sản phẩm số mang tới cho xã hội con người. The ledger of Harms là một dự án của Center for Humane Technology tạo ra một danh sách về những tác hại của sản phẩm số. Trong đó, có một số thực sự ghẹt thở:

“Những cô gái dành hơn 5h sử dụng mạng xã hội mỗi ngày sẽ có tỷ lệ tự tử cao hơn 66%”

“Những video thuyết âm mưu khiến chúng ta có thái độ tiêu cực với xã hội, giảm niềm tin với các sự kiện khoa học đã được khẳng định”

“Chúng ta càng nghiên Facebook, khối lượng não bộ càng giảm. Ảnh quét não của những người dùng Facebook cho thấy mức độ chất xám và hạnh nhân giảm tương quan tới mức độ họ nghiện Facebook. Sự suy giảm chất xám này tương tự như chết tế bào của những người nghiện cocaine”

Thiếu hiểu biết, mất tính tự quyết

Rất nhiều UX designer nói rằng họ chỉ cung cấp thứ người dùng muốn để trốn tránh trách nhiệm về việc thao túng con người. Họ cũng biện minh rằng UX chỉ là kỹ năng như mọi kỹ năng khác. Nhưng bạn sẽ dùng kỹ năng ấy phục vụ bất cứ ai? Bất kể mục đích của họ?

Có một khái niệm được gọi là “sự vô tội của cái ác” trong cuốn Eichmann in Jerusalem của Hana Arendt. Adolph Eichmann là một đặc nhiêm của Đức Quốc Xã, chịu trách nhiệm vận chuyển hàng triệu người Do Thái tới các trại tập chung. Arendt, sử gia kiêm nhà triết học người Đức, đóng vai trò là phóng viên của New York Time khi xét xử Eichmann. Arendt mô tả Eichmann là người không có ý định xấu, động cơ duy nhất của anh ta là cố gắng làm tốt công việc của mình. Theo lời Arendt, anh ta chỉ làm theo lệnh và không thắc mắc. Khái niệm “sự vô tội của cái ác” của cô ý chỉ hành vi tội ác không nhất thiết là đến từ người xấu, thay vào đó, nó có thể đơn thuần là hệ quả của sự vâng lời của những người ngoan ngoãn.

Thiết kế là gì? Giá trị của thiết kế nên là gì?

Khi nghĩ về những thứ trên, chúng ta có thể rơi vào lập luận rằng “thiết kế là kinh doanh, không phải là từ thiện”, “giải cứu thế giới không phải việc của chúng ta”. Tuy nhiên, những lập luận này không thể biện minh cho việc bóc lột con người, cũng không làm mất đi tính phi đạo đức ấy. Ngược lại, nhận lấy trách nhiệm cho những hậu quả không mong muốn không hề mâu thuẫn với lợi ích kinh doanh. Hãy nhìn vào Airbnb! 

Ý định của tôi khi viết ra bài viết này không phải là để thúc đẩy một hành động, thay vào đó, là để đưa một vấn đề nghiêm trọng để chúng ta - những nhà thiết kế cần xem xét. Điều quan trọng mà chúng ta cần nhận ra đó là chính những ông lớn là những người lợi dụng thiết kế của chúng ta. Bản chất của thiết kế biến thành sự bóc lột.

Đọc thêm: Vai trò quan trọng của nghiên cứu người dùng đối với thiết kế

Dù vậy, việc tách biệt bản chất với người dùng không phải là điều mới mẻ. Marchal McLuhan từng nói “công cụ là thông điệp” và “những sản phẩm của khoa học hiện đại, về bản chất chúng không tốt hay xấu, cách mà nó được dùng mới là thứ quyết định giá trị của chúng. Bản chất súng không tốt hay xấu. Nếu đạn bắn trúng người cần bắn thì nó là tốt”

Nếu chúng ta không đưa những ý kiến phản biện ra bàn luận, sao chúng có có thể tự coi mình là một cộng đồng có ý thức. Chúng ta cần nghiêm túc với vấn đề này, nhận thức rõ, tự đối thoại, tự phê phán sẽ làm sáng tỏ quan điểm của chúng ta về đạo đức của sản phẩm số, những sản phẩm được sinh ra từ bàn tay của chúng ta.