Connect with us

công nghệ

Chính phủ sử dụng trí tuệ nhân tạo: Texas bắt đầu nghiên cứu về tác động tiềm ẩn của trí tuệ nhân tạo, bao gồm chatbot và quyền riêng tư

[ad_1]

Vào tháng 3 năm 2020, khi Ủy ban Lực lượng lao động Texas ngập trong số đơn xin trợ cấp thất nghiệp, họ đã chuyển sang sử dụng trí tuệ nhân tạo.

Video trên là từ Texas This Week, được khám phá bởi Tom Abrahams của ABC13 Trí tuệ nhân tạo ảnh hưởng đến nhiều nơi trên thế giới như thế nào.

Chatbot này, được đặt theo tên của Larry Temple, cựu giám đốc cơ quan đã qua đời một năm trước, được thiết kế để giúp người dân Texas nộp đơn xin trợ cấp thất nghiệp.

Giống như trang Câu hỏi thường gặp thế hệ tiếp theo, Larry trả lời các câu hỏi của người dùng về các trường hợp thất nghiệp. Bằng cách sử dụng khả năng xử lý ngôn ngữ bằng trí tuệ nhân tạo, bot sẽ xác định câu trả lời nào do con người viết trước phù hợp nhất với cách diễn đạt câu hỏi duy nhất của người dùng. Chatbot này đã trả lời hơn 21 triệu câu hỏi trước khi được thay thế bởi Larry 2.0 vào tháng 3 năm ngoái.

Larry là một ví dụ về cơ quan nhà nước sử dụng trí tuệ nhân tạo. Việc áp dụng công nghệ của nhà nước đã tăng lên trong những năm gần đây. Nhưng sự tăng tốc này cũng làm dấy lên lo ngại về những hậu quả không lường trước được, chẳng hạn như sự thiên vị, mất quyền riêng tư hoặc mất quyền kiểm soát công nghệ. Năm nay, Cơ quan lập pháp cam kết sẽ đóng vai trò tích cực hơn trong việc giám sát cách nhà nước sử dụng trí tuệ nhân tạo.

Hạ nghị sĩ Giovanni Capriglione, R-S.L., đã soạn thảo một dự luật nhằm giúp nhà nước sử dụng tốt hơn công nghệ trí tuệ nhân tạo.

“Điều này sẽ cách mạng hóa cách chúng ta quản lý,” Capriglione nói.

Vào tháng 6, Thống đốc Greg Abbott đã ký Dự luật Hạ viện 2060 thành luật, thành lập Ủy ban Cố vấn Trí tuệ Nhân tạo để nghiên cứu và kiểm kê cách các cơ quan nhà nước hiện đang sử dụng trí tuệ nhân tạo và đánh giá liệu nhà nước có cần trí tuệ nhân tạo hay không. Vai trò của ủy ban trong việc giám sát những gì nhà nước thực hiện với trí tuệ nhân tạo không liên quan đến việc thiết lập chính sách cuối cùng.

Trí tuệ nhân tạo mô tả một lớp công nghệ được mô phỏng bởi hệ thống máy tính và được xây dựng dựa trên lý luận của con người. Chatbots sử dụng quá trình xử lý ngôn ngữ để hiểu câu hỏi của người dùng và kết hợp chúng với các câu trả lời được xác định trước. Các công cụ mới như ChatGPT được phân loại là AI tổng quát vì công nghệ này tạo ra các câu trả lời độc đáo dựa trên lời nhắc của người dùng. AI cũng có thể phân tích các tập dữ liệu lớn và sử dụng thông tin này để tự động hóa các tác vụ do con người thực hiện trước đây. Ra quyết định tự động là trọng tâm của HB 2060.

Theo báo cáo năm 2022 của Bộ Tài nguyên Thông tin Texas, hơn một phần ba các cơ quan ở Texas đã sử dụng một số dạng trí tuệ nhân tạo. Hội đồng lực lượng lao động cũng cung cấp cho người tìm việc các công cụ AI cung cấp các đề xuất tùy chỉnh cho cơ hội việc làm. Nhiều cơ quan khác nhau đang sử dụng AI để dịch ngôn ngữ sang tiếng Anh và các công cụ của trung tâm cuộc gọi như chuyển giọng nói thành văn bản. Trí tuệ nhân tạo cũng được sử dụng để tăng cường an ninh mạng và phát hiện gian lận.

See also  Stellantis Ventures đầu tư vào Tiamat và công nghệ pin natri-ion giá cả phải chăng

đọc thêm: Gia đình 82 tuổi tưởng con rể gặp rắc rối rồi mất 17.000 USD vào tay kẻ lừa đảo AI

Theo một tuyên bố từ Bộ Tài nguyên Thông tin, tự động hóa cũng được sử dụng trong các nhiệm vụ tốn thời gian để “tăng sản lượng và hiệu quả công việc”. Một ví dụ là theo dõi chi phí ngân sách và hóa đơn. Năm 2020, DIR đã thành lập Trung tâm Xuất sắc về Trí tuệ Nhân tạo để giúp các cơ quan nhà nước triển khai nhiều công nghệ AI hơn. Việc tham gia vào các trung tâm DIR là tự nguyện và mỗi cơ quan thường có nhóm công nghệ riêng, do đó mức độ tự động hóa và triển khai AI giữa các cơ quan nhà nước không được theo dõi chặt chẽ.

Hiện tại, các cơ quan ở Texas phải xác minh rằng công nghệ họ sử dụng đáp ứng các yêu cầu bảo mật theo luật tiểu bang, nhưng không có yêu cầu tiết lộ cụ thể nào về loại công nghệ hoặc cách sử dụng công nghệ đó. HB 2060 sẽ yêu cầu mỗi cơ quan cung cấp thông tin này cho Ủy ban Cố vấn Trí tuệ Nhân tạo trước tháng 7 năm 2024.

“Chúng tôi muốn các tổ chức phải sáng tạo,” Capriglione nói. Ông ủng hộ việc tìm kiếm nhiều trường hợp sử dụng AI hơn chatbot, nhưng thừa nhận rằng chất lượng dữ liệu kém có thể khiến hệ thống không hoạt động như dự định: “Chúng tôi phải đưa ra một số quy tắc”.

Khi trí tuệ nhân tạo ngày càng phổ biến, mối lo ngại về đạo đức và chức năng của công nghệ cũng tăng theo. Ủy ban Cố vấn Trí tuệ Nhân tạo là bước đầu tiên trong việc giám sát cách triển khai công nghệ. Ủy ban gồm bảy thành viên sẽ bao gồm một thành viên của Hạ viện và Thượng viện tiểu bang, một giám đốc điều hành và bốn cá nhân do thống đốc bổ nhiệm có chuyên môn về trí tuệ nhân tạo, đạo đức, thực thi pháp luật và luật hiến pháp.

Samantha Shorey là trợ lý giáo sư tại Đại học Texas ở Austin, nơi cô nghiên cứu tác động xã hội của trí tuệ nhân tạo, đặc biệt là trí tuệ nhân tạo được thiết kế để tăng cường tự động hóa. Cô lo lắng rằng nếu công nghệ cho phép đưa ra nhiều quyết định hơn, nó sẽ tái tạo và làm trầm trọng thêm sự bất bình đẳng xã hội: “Nó có thể đưa chúng ta đến mục tiêu cuối cùng nhanh hơn. Nhưng liệu nó có đưa chúng ta đến mục tiêu cuối cùng mà chúng ta mong muốn không?”

Những người ủng hộ việc sử dụng trí tuệ nhân tạo nhiều hơn coi tự động hóa là một cách giúp chính phủ hoạt động hiệu quả hơn. Việc tận dụng công nghệ mới nhất có thể giúp tăng tốc độ quản lý hồ sơ cho các dịch vụ xã hội, cung cấp bản tóm tắt tức thời về các phân tích chính sách dài dòng hoặc hợp lý hóa quy trình tuyển dụng và đào tạo cho nhân viên chính phủ mới.

Tuy nhiên, Shorey cảnh giác với khả năng kết hợp trí tuệ nhân tạo vào quá trình ra quyết định, chẳng hạn như xác định ai đủ điều kiện nhận trợ cấp dịch vụ xã hội hoặc ai đó sẽ được ân xá trong bao lâu. Đầu năm nay, Bộ Tư pháp Hoa Kỳ đã bắt đầu điều tra các cáo buộc rằng một mô hình trí tuệ nhân tạo được thiết kế để giúp cải thiện phúc lợi trẻ em ở quận Pennsylvania đã phân biệt đối xử với các bậc cha mẹ khuyết tật và khiến con cái họ bị loại bỏ.

See also  Công ty ra mắt công nghệ mới tiên tiến có thể thay đổi cách chúng ta sưởi ấm ngôi nhà của mình - đây là cách thức hoạt động

Suresh Venkatasubramanian, giám đốc Trung tâm Công nghệ có trách nhiệm của Đại học Brown, cho biết các hệ thống AI “có xu hướng tiếp thu mọi sai lệch tồn tại trong dữ liệu trong quá khứ”. AI được đào tạo trên dữ liệu chứa bất kỳ thành kiến ​​nào về giới tính, tôn giáo, chủng tộc hoặc các thành kiến ​​khác có nguy cơ học cách phân biệt đối xử.

Ngoài vấn đề dữ liệu thiếu sót tạo ra sự bất bình đẳng xã hội, còn có những lo ngại về quyền riêng tư do công nghệ phụ thuộc vào việc thu thập lượng lớn dữ liệu. Những gì AI có thể làm với dữ liệu theo thời gian cũng làm dấy lên mối lo ngại rằng con người sẽ mất một số quyền kiểm soát đối với công nghệ.

Venkatasubramanian nói: “Khi trí tuệ nhân tạo trở nên phức tạp hơn, việc hiểu cách thức hoạt động của các hệ thống này và lý do chúng đưa ra quyết định theo cách đó trở nên khó khăn hơn”.

có liên quan: Hội chợ việc làm Who’s Hiring của ABC13 tập trung vào cách tìm kiếm sự nghiệp liên quan đến trí tuệ nhân tạo

Những lo ngại đó được chia sẻ bởi Jason Green-Lowe, giám đốc điều hành của Trung tâm Chính sách trí tuệ nhân tạo, một nhóm đã vận động hành lang ở Washington, D.C., để có được sự an toàn AI mạnh mẽ hơn. Green-Law cho biết với tốc độ công nghệ tăng nhanh và thiếu quy định, “chúng ta có thể sớm thấy mình ở trong một thế giới do AI thống trị, nơi thế giới bắt đầu tự định hướng lại để phục vụ lợi ích của AI hơn là lợi ích của con người.”

Tuy nhiên, một số chuyên gia công nghệ tin tưởng hơn rằng con người sẽ tiếp tục chi phối việc gia tăng triển khai AI. Alex Dimakis là giáo sư kỹ thuật điện và khoa học máy tính tại Đại học Texas ở Austin và phục vụ trong Ủy ban Trí tuệ Nhân tạo của Phòng Thương mại Hoa Kỳ.

Dimakis tin rằng các hệ thống AI phải minh bạch và phải được đánh giá độc lập, một quy trình được gọi là nhóm đỏ, trong đó dữ liệu cơ bản của công nghệ và quy trình ra quyết định được nhiều chuyên gia xem xét kỹ lưỡng để xác định xem có cần hành động mạnh mẽ hơn hay không. .

Dimakis nói: “Bạn không thể trốn đằng sau trí tuệ nhân tạo. Ngoài tính minh bạch và đánh giá, Dimakis cho biết các bang nên thực thi luật hiện hành đối với bất kỳ ai tạo ra trí tuệ nhân tạo trong mọi trường hợp công nghệ tạo ra kết quả vi phạm luật: “Hãy áp dụng luật hiện hành, đừng làm xáo trộn hệ thống AI ở đâu đó ở giữa.”

Ủy ban Cố vấn Trí tuệ Nhân tạo sẽ đệ trình những phát hiện và đề xuất của mình lên Cơ quan lập pháp trước tháng 12 năm 2024. Đồng thời, chính quyền các cấp ngày càng quan tâm đến việc triển khai trí tuệ nhân tạo. DIR vận hành Nhóm người dùng trí tuệ nhân tạo bao gồm các đại diện từ các cơ quan nhà nước, tổ chức giáo dục đại học và chính quyền địa phương quan tâm đến việc triển khai AI.

Người phát ngôn của DIR cho biết sự quan tâm từ cơ sở người dùng đang tăng lên. Nhóm có hơn 300 thành viên đại diện cho hơn 85 đơn vị khác nhau.

diễn đàn texas là một tổ chức truyền thông phi lợi nhuận, phi đảng phái nhằm thông báo và thu hút người dân Texas về các vấn đề chính sách công, chính trị, chính phủ và toàn tiểu bang.

[ad_2]

Source link

Click to comment

Leave a Reply

Your email address will not be published. Required fields are marked *