Các cơ quan chính phủ trên khắp Nam Phi đang ngày càng dựa vào các công cụ kỹ thuật số để đánh giá các chương trình công cộng và giám sát hiệu suất. Đây là một phần của cải cách khu vực công rộng lớn hơn. Mục tiêu của họ là cải thiện trách nhiệm giải trình, đáp ứng áp lực kiểm toán và quản lý các chương trình quy mô lớn với nhân viên và ngân sách hạn chế.
Đây là một ví dụ. Các bộ quốc gia theo dõi việc cung cấp nhà ở, trợ cấp xã hội hoặc triển khai cơ sở hạ tầng dựa vào các hệ thống hiệu suất kỹ thuật số thay vì các báo cáo giấy định kỳ. Dashboard – một cách hiển thị dữ liệu trực quan ở một nơi – cung cấp các cập nhật gần như theo thời gian thực về việc cung cấp dịch vụ.
Một ví dụ khác là việc sử dụng các nền tảng thu thập dữ liệu di động. Những nền tảng này cho phép các quan chức tuyến đầu và nhà thầu tải thông tin trực tiếp từ hiện trường.
Cả hai ví dụ đều phù hợp với việc sử dụng trí tuệ nhân tạo (AI) để xử lý các tập dữ liệu lớn và tạo ra những hiểu biết sâu sắc mà trước đây có thể mất nhiều tháng để phân tích.
Sự chuyển đổi này thường được mô tả như một bước tiến về trách nhiệm giải trình và hiệu quả trong khu vực công.
Tôi là một học giả chính sách công với sự quan tâm đặc biệt đến giám sát và đánh giá các chương trình chính phủ. Nghiên cứu gần đây của tôi cho thấy một xu hướng đáng lo ngại, đó là sự chuyển đổi sang công nghệ đang diễn ra nhanh hơn nhiều so với các khung đạo đức và quản trị được thiết kế để điều chỉnh nó.
Trong các trường hợp tôi đã xem xét, các công cụ kỹ thuật số đã được tích hợp vào các quy trình giám sát và đánh giá thông thường. Nhưng không có các tiêu chuẩn rõ ràng hướng dẫn việc sử dụng chúng.
Điều này gây ra các rủi ro xung quanh giám sát, loại trừ, lạm dụng dữ liệu và đánh giá chuyên môn kém. Những rủi ro này không trừu tượng. Chúng định hình cách công dân trải nghiệm nhà nước, cách dữ liệu của họ được xử lý và cuối cùng tiếng nói của ai được tính đến trong các quyết định chính sách.
Khi công nghệ vượt qua chính sách
Đánh giá khu vực công liên quan đến việc đánh giá các chương trình và chính sách của chính phủ. Nó xác định xem:
- các nguồn lực công được sử dụng hiệu quả hay không
- các chương trình có đạt được kết quả mong muốn hay không
- công dân có thể giữ nhà nước chịu trách nhiệm về hiệu suất hay không.
Theo truyền thống, những đánh giá này dựa vào sự tương tác trực tiếp giữa cộng đồng, nhà đánh giá, chính phủ và những người khác. Chúng bao gồm các phương pháp định tính cho phép sự tinh tế, giải thích và xây dựng lòng tin.
Các công cụ kỹ thuật số đã thay đổi điều này.
Trong nghiên cứu của tôi, tôi đã phỏng vấn các nhà đánh giá trong chính phủ, tổ chức phi chính phủ, học viện, hiệp hội nghề nghiệp và tư vấn tư nhân. Tôi nhận thấy một mối quan tâm nhất quán trên toàn bộ. Các hệ thống kỹ thuật số thường được giới thiệu mà không có hướng dẫn đạo đức phù hợp với thực hành đánh giá.
Hướng dẫn đạo đức sẽ cung cấp các quy tắc rõ ràng, thực tế về cách các công cụ kỹ thuật số được sử dụng trong các đánh giá. Ví dụ, khi sử dụng Dashboard hoặc phân tích dữ liệu tự động, hướng dẫn nên yêu cầu các nhà đánh giá giải thích cách dữ liệu được tạo ra, ai có quyền truy cập vào chúng và các phát hiện có thể ảnh hưởng đến cộng đồng được đánh giá như thế nào. Nó cũng nên ngăn chặn việc sử dụng các hệ thống kỹ thuật số để giám sát cá nhân mà không có sự đồng ý hoặc xếp hạng các chương trình theo cách bỏ qua bối cảnh.
Đạo luật Bảo vệ Thông tin Cá nhân của Nam Phi cung cấp một khung pháp lý chung cho bảo vệ dữ liệu. Nhưng nó không giải quyết các tình huống đạo đức cụ thể phát sinh khi đánh giá trở nên tự động, dựa trên điện toán đám mây và được trung gian bởi thuật toán.
Kết quả là các nhà đánh giá thường bị bỏ lại để điều hướng địa hình đạo đức phức tạp mà không có tiêu chuẩn rõ ràng. Điều này buộc các tổ chức phải dựa vào tiền lệ, thói quen không chính thức, thực hành trước đây và mặc định phần mềm.
Sự lan tràn giám sát và lạm dụng dữ liệu
Các nền tảng kỹ thuật số giúp có thể thu thập khối lượng lớn dữ liệu. Khi dữ liệu được tải lên các hệ thống dựa trên điện toán đám mây hoặc Nền tảng của bên thứ ba, quyền kiểm soát việc lưu trữ, tái sử dụng và chia sẻ thường chuyển từ các nhà đánh giá sang người khác.
Một số nhà đánh giá đã mô tả các tình huống mà dữ liệu họ thu thập thay mặt cho các cơ quan chính phủ sau đó được các cơ quan hoặc các cơ quan nhà nước khác tái sử dụng. Điều này được thực hiện mà không có nhận thức rõ ràng của người tham gia. Các quy trình đồng ý trong môi trường kỹ thuật số thường được rút gọn thành một cú nhấp chuột duy nhất.
Ví dụ về các cách sử dụng khác bao gồm các hình thức phân tích, báo cáo hoặc giám sát tổ chức khác.
Một trong những rủi ro đạo đức xuất hiện từ nghiên cứu là việc sử dụng dữ liệu này để giám sát. Đây là việc sử dụng dữ liệu để giám sát cá nhân, cộng đồng hoặc nhân viên tuyến đầu.
Loại trừ kỹ thuật số và tiếng nói vô hình
Các công cụ đánh giá kỹ thuật số thường được trình bày như mở rộng phạm vi tiếp cận và sự tham gia. Nhưng trong thực tế, chúng có thể loại trừ các nhóm đã bị thiệt thòi. Các cộng đồng có quyền truy cập internet hạn chế, kiến thức kỹ thuật số thấp, rào cản ngôn ngữ hoặc cơ sở hạ tầng không đáng tin cậy ít có khả năng tham gia đầy đủ vào các đánh giá kỹ thuật số.
Các công cụ tự động có những hạn chế. Ví dụ, chúng có thể gặp khó khăn trong việc xử lý dữ liệu đa ngôn ngữ, giọng địa phương hoặc các hình thức biểu đạt đặc thù văn hóa. Điều này dẫn đến các đại diện một phần hoặc bị bóp méo về kinh nghiệm sống. Các nhà đánh giá trong nghiên cứu của tôi đã thấy điều này xảy ra trong thực tế.
Sự loại trừ này có hậu quả nghiêm trọng đặc biệt là ở một quốc gia có sự bất bình đẳng như Nam Phi. Các đánh giá dựa nhiều vào các công cụ kỹ thuật số có thể tìm thấy dân số đô thị, được kết nối và làm cho các cộng đồng nông thôn hoặc không chính thức trở nên vô hình về mặt thống kê.
Đây không chỉ là một giới hạn kỹ thuật. Nó định hình những nhu cầu nào được công nhận và kinh nghiệm của ai cung cấp thông tin cho các quyết định chính sách. Nếu dữ liệu đánh giá đại diện dưới mức những người dễ bị tổn thương nhất, các chương trình công có thể xuất hiện hiệu quả hơn so với thực tế. Điều này che giấu các thất bại cấu trúc thay vì giải quyết chúng.
Trong nghiên cứu của tôi, một số đánh giá báo cáo xu hướng hiệu suất tích cực mặc dù các nhà đánh giá ghi nhận khoảng trống trong thu thập dữ liệu.
Thuật toán không trung lập
Các nhà đánh giá cũng nêu lên mối quan ngại về quyền hạn ngày càng tăng được trao cho các đầu ra thuật toán. Dashboard, báo cáo tự động và phân tích Hỗ trợ bởi AI thường được coi là bức tranh chân thực. Điều này xảy ra ngay cả khi chúng xung đột với kiến thức dựa trên thực địa hoặc hiểu biết về bối cảnh.
Ví dụ, Dashboard có thể hiển thị một mục tiêu đang đi đúng hướng. Nhưng trong một ví dụ về chuyến thăm địa điểm, các nhà đánh giá có thể tìm thấy sai sót hoặc sự không hài lòng.
Một số người tham gia báo cáo áp lực từ các nhà tài trợ hoặc tổ chức để dựa vào phân tích các con số.
Tuy nhiên, thuật toán phản ánh các giả định, tập dữ liệu và ưu tiên được nhúng trong thiết kế của chúng. Khi áp dụng một cách không phê phán, chúng có thể tái tạo thành kiến, đơn giản hóa quá mức động lực xã hội và bỏ qua hiểu biết định tính.
Nếu các hệ thống kỹ thuật số quyết định cách dữ liệu phải được thu thập, phân tích và báo cáo, các nhà đánh giá có nguy cơ trở thành kỹ thuật viên chứ không phải các chuyên gia độc lập thực hiện đánh giá.
Tại sao châu Phi cần đạo đức nhạy cảm với bối cảnh
Trên khắp châu Phi, các chiến lược và chính sách quốc gia về công nghệ kỹ thuật số thường mượn nhiều từ các khung quốc tế. Những khung này được phát triển trong các bối cảnh rất khác nhau. Các nguyên tắc toàn cầu về đạo đức AI và quản trị dữ liệu cung cấp các điểm tham chiếu hữu ích. Nhưng chúng không giải quyết đầy đủ thực tế về bất bình đẳng, sự không tin tưởng lịch sử và quyền truy cập kỹ thuật số không đồng đều trên phần lớn khu vực công của châu Phi.
Nghiên cứu của tôi lập luận rằng quản trị đạo đức cho đánh giá kỹ thuật số phải nhạy cảm với bối cảnh. Các tiêu chuẩn phải giải quyết:
- cách thức đồng ý được thu thập
- ai sở hữu dữ liệu đánh giá
- cách các công cụ thuật toán được lựa chọn và kiểm toán
- cách sự độc lập của nhà đánh giá được bảo vệ.
Các khung đạo đức phải được nhúng vào giai đoạn thiết kế của các hệ thống kỹ thuật số.
Lesedi Senamele Matlala, Giảng viên cấp cao và Nhà nghiên cứu về Chính sách Công, Giám sát và Đánh giá, Đại học Johannesburg
Bài viết này được xuất bản lại từ The Conversation theo giấy phép Creative Commons. Đọc bài viết gốc.
