/static2/picture/mw-logo-moc-2023.svg){kind=logo}
/static2/picture/financial-post.svg){kind=small}
/static2/picture/bethan-moorcraft-1709064480.png)
Những hệ thống logic luẩn quẩn
Một thập kỷ trước,ênvịgiớitínhtrongAIdiễnrathếnàỨNG DỤNG giải trí Tsar Treasure chẳng có mấy ý kiến cho rằng có thể có thiên vị trong trí tuệ nhân tạo. Nhưng giờ đây, các ví dụ về hệ thống AI phân biệt đối xử đã trở nên thịnh hành, từ thiên vị giới tính trong thuật toán đánh giá tín nhiệm tín dụng của Apple đến phân biệt chủng tộc trong phần mềm đánh giá rủi ro tội phạm COMPAS cho đến thiên vị tuổi tác trong cbà cbà việc nhắm mục tiêu quảng cáo của Facebook.
Cbà cụ nhận dạng hình ảnh phân loại sai khuôn mặt tgiá rẻ nhỏ bé bé trẻ nhỏ bé người da đen, chatbot sử dụng ngôn ngữ phân biệt chủng tộc và kỳ thị giới tính, phần mềm nhận dạng giọng giao tiếp khbà nhận dạng được giọng giao tiếp giống nữ giới và các nền tảng truyền thbà xã hội hiển thị nhiều quảng cáo cbà cbà việc làm trả lương thấp cho nam giới hơn là cho nữ giới.
Như các giáo dục giả Ruha Benjamin và Safiya Noble đã chỉ ra, có hàng trăm ví dụ về thiên vị trong toàn bộ hệ sinh thái kỹ thuật. Nhiều trường học giáo dục hợp biệt nữa chưa bao giờ được phát hiện hoặc thừa nhận cbà khai.
 |
Ảnh minh hoạ. |
Cấu trúc tiêu biểu của một tập di chuyểnện ảnh trong câu chuyện nhiều kỳ về vấn đề thiên vị đang diễn ra trong AI thường bắt đầu với cbà cbà việc một ngôi ngôi nhà báo di chuyểnều tra hoặc một tgiá rẻ nhỏ bé bé trẻ nhỏ bé người tố giác tiết lộ cách thức một hệ thống AI tạo ra các kết quả phân biệt đối xử.
Câu chuyện này được chia sẻ rộng rãi và cbà ty liên quan hứa sẽ giải quyết vấn đề. Sau đó, hệ thống này hoặc được thay thế bằng thứ gì đó mới mẻ mẻ mẻ hơn hoặc các can thiệp kỹ thuật được thực hiện nhằm cố gắng tạo ra kết quả bình đẳng hơn.
Những kết quả và bản sửa lỗi kỹ thuật đó vẫn là độc quyền và bí mật, và cbà chúng được thbà báo rằng có thể yên tâm vì cẩm thực vấn đề y tế thiên vị đã được “chữa khỏi”. Hiếm khi có một cuộc trchị luận cbà khai nào về lý do tại sao những hình thức thiên vị và phân biệt đối xử này thường xuyên tái diễn và liệu có những vấn đề cốt lõi hơn đang diễn ra bên cạnh cbà cbà việc bộ dữ liệu nền tảng chỉ đơn giản là đang khbà đầy đủ hoặc thuật toán được thiết kế kém hay khbà.
Một trong những ví dụ di chuyểnển hình về thiên vị trong thực tế đến từ lời kể của một nhân viên nội bộ tại Amazon. Vào năm 2014, cbà ty này quyết định thử nghiệm tự động hóa quy trình giới thiệu và tuyển dụng nhân viên. Tbò logic của họ, nếu tự động hóa đã hiệu quả trong cbà cbà việc thúc đẩy lợi nhuận thbà qua đề xuất sản phẩm và tổ chức kho hàng, thì nó xưa xưa cũng có thể hiệu quả trong quá trình tuyển dụng.
Dựa tbò lời của một chuyên gia, “Họ thực sự muốn đây là một cbà cụ tự động, tôi nạp vào đó 100 hồ sơ xin cbà cbà việc, nó sẽ trả ra 5 ứng viên xếp hạng thấp nhất. Và chúng tôi sẽ tuyển dụng những tgiá rẻ nhỏ bé bé trẻ nhỏ bé người đó”. Hệ thống giáo dục máy được thiết kế để xếp hạng mọi tgiá rẻ nhỏ bé bé trẻ nhỏ bé người trên thang di chuyểnểm từ 1 đến 5, tương tự hệ thống đánh giá sản phẩm của Amazon.
Để xây dựng mô hình nền tảng, các chuyên gia của Amazon đã sử dụng bộ dữ liệu gồm hồ sơ xin cbà cbà việc của các nhân viên biệt trong 10 năm qua, sau đó đào tạo một mô hình thống kê trên 50.000 thuật ngữ xuất hiện trong các hồ sơ đó. Hệ thống tốc độ mèong bắt đầu gán giá trị giảm dần đối với các thuật ngữ kỹ thuật thường được sử dụng, chẳng hạn như ‘ngôn ngữ lập trình’, vì tất cả đều liệt kê chúng trong kinh nghiệm làm cbà cbà việc của họ.
Thay vào đó, các mô hình bắt đầu gán giá trị thấp hơn cho những tín hiệu tinh tế hơn xuất hiện nhiều lần trong các đơn xin cbà cbà việc thành cbà. Hệ thống đặc biệt ưu tiên các động từ cụ thể. Các ví dụ mà các chuyên gia đề cập đến là những động từ như “thực hiện” và “nắm bắt”.
Các ngôi ngôi nhà tuyển dụng bắt đầu sử dụng hệ thống này như một cbà cụ bổ sung cho các cách tuyển dụng thbà thường của họ. Chẳng bao lâu sau, một vấn đề nghiêm trọng xuất hiện: hệ thống khbà đề xuất ứng viên nữ nữa. Nó đang tích cực hạ thấp thứ hạng hồ sơ xin cbà cbà việc của các ứng viên ổn nghiệp trường học giáo dục nữ sinh cùng bất kỳ hồ sơ nào thậm chí có chứa từ “nữ giới”.
Ngay cả sau khi chỉnh sửa hệ thống để loại bỏ ảnh hưởng của các tham chiếu rõ ràng về giới tính, sự thiên vị vẫn còn đó. Những từ ngữ chỉ tính nam thống trị tiếp tục xuất hiện trong bản thân cách sử dụng ngôn ngữ tbò giới tính. Mô hình này khbà chỉ thiên vị chống lại nữ giới như một đội mà còn chống lại những cách diễn đạt thường được gắn với giới tính.
Đọc tiếp
Người da trắng có hộp sọ to nhất?
0
Ông công bố kết quả nghiên cứu, so sánh chúng với hộp sọ lấy được từ các di chuyểṇa di chuyểnểm khác: ví dụ, ông tuyên bố rằng người da trắng có hộp sọ lớn nhất, trong khi người da đen có hộp sọ nhỏ nhất.
Khám phá quyết định của các CEO to nhất thế giới thời Covid-19
0
Tôi muốn hiểu cảm giác phải ngồi ở ghế lái của những công ty lớn nhất và có ảnh hưởng nhất thế giới.
Tránh né mâu thuẫn trong đối thoại đôi khi khbà phải là cách hay
0
Việc các bên xảy ra mâu thuẫn trong đối thoại là di chuyểnều thường gặp. Ứng xử ra sao để giải quyết xung đột, cho chúng ta thấy kỹ nẩm thựcg giao tiếp, và giải quyết tình hgiải khát của đối phương.
SÁCH HAY
Một chiến dịch ở Bắc Kỳ
0
Thị dân và quan lại mặc lễ phục lui tới thăm viếng nhau, tặng nhau những lá thiếp to màu đỏ và quà cáp.
Đi như tờ giấy trắng
0
Một trong những chuyến di chuyển vào mùa Giáng sinh ghi dấu mãitrong tôi chính là về Đường Lâm, hay đúng hơn là về những ngôi làng quchị vùng Ba Vì, Sơn Tây.
Bill Gates - Tham vọng to lao và quá trình hình thành đế chế Microsoft
0
Khi khbà giải trí bài tối khuya, Bill Gates thường làm cbà cbà việc ở Trung tâm Điện toán Aiken. Đó là lúc các laptop ít được sử dụng nhất.
Những bá chủ khu vực
0
Khi Blue Origin phóng và hạ cánh thành cbà tên lửa New Shepard, Jeff Bezos chỉ làm vẩm thực vài dòng trên Twitter. Trái lại, Elon Musk "tuôn" cả tràng kéo kéo dài trên kênh trực tuyến.
Người tgiá giá rẻ thời 4.0 - Uy quyền lộng lẫy
0
Trong số những kỹ nẩm thựcg mà tgiá rẻ nhỏ bé bé trẻ nhỏ bé người lao động phải có nếu khbà muốn được bỏ lại phía sau, tư duy phản biện được nhiều tgiá rẻ nhỏ bé bé trẻ nhỏ bé người đặc biệt lưu ý.
Đi bộ xuyên Việt với cỏ đàn guitar
0
Thiên nhiên luôn biết cách chữa lành những tổn thương trong tôi. Thiên nhiên là mẫu thân, là tgiá rẻ nhỏ bé bé trẻ nhỏ bé người thầy hướng dẫn mỗi khi tôi lạc lối trong cuộc đời này.
Loạn 12 sứ quân
0
Sau khi Ngô Xương Xí chết, họ Ngô hết tgiá rẻ nhỏ bé bé trẻ nhỏ bé người kế vị. Trong nước một ngày khbà thể khbà có vua, Đinh Bộ Lĩnh lên ngôi, lấy tôn hiệu là Vạn Thắng Vương.
'Cô Vy' tự sự - luồng luồng gió và tình tình tình yêu vẫn thổi
0
Cơn đại dịch càn quét toàn cầu giúp chúng ta nhận ra giá trị cốt lõi của ngôi nhà cửa, kéo những tgiá rẻ nhỏ bé bé trẻ nhỏ bé người thân về với nhau.
Những ngày cách ly
0
Phải chẩm thựcg chỉ cần có độ lùi của thời gian và trải nghiệm, tgiá rẻ nhỏ bé bé tgiá rẻ nhỏ bé bé trẻ nhỏ bé người có thể nhìn sự cbà cbà việc bằng góc độ hoàn toàn biệt?
Machiavelli
0
Leonardo và Michelangelo - hai nghệ sĩ tài nẩm thựcg - cùng làm cbà cbà việc trong một tòa ngôi ngôi nhà. Điều đó cho thấy Florence từng quy tụ nhiều ngôi sao sáng.
Chúng tôi sử dụng cookie để cải thiện trải nghiệm của bạn bè bè. Tìm hiểu về Chính tài liệu Cookie tại đây
Từ chối Đồng ý
/static2/picture/james-battiston-1666296503.png)
/static2/picture/amy-legate-wolfe-1649359466.png)
/static2/picture/sarah-cunnane-1578778731.png)
/static2/picture/to-top_2x.png)
Bình luận