Giám đốc điều hành OpenAI kêu gọi luật pháp để giảm thiểu "rủi ro ngày càng mạnh" của AI

Phát biểu trước ủy ban tư pháp Thượng viện hôm thứ Ba, Sam Altman cho biết ông ủng hộ các rào cản pháp lý đối với công nghệ mang lại lợi ích của trí tuệ nhân tạo đồng thời giảm thiểu tác hại.

“Chúng tôi nghĩ rằng sự can thiệp theo quy định của chính phủ sẽ rất quan trọng để giảm thiểu rủi ro của các mô hình ngày càng mạnh mẽ,” Altman cho biết trong nhận xét đã chuẩn bị của mình.

Altman đề xuất chính phủ Hoa Kỳ có thể xem xét các yêu cầu cấp phép và thử nghiệm để phát triển và phát hành các mô hình AI. Ông đề xuất thiết lập một bộ tiêu chuẩn an toàn và các mô hình thử nghiệm cụ thể sẽ phải vượt qua trước khi chúng có thể được triển khai, cũng như cho phép các kiểm toán viên độc lập kiểm tra các mô hình trước khi chúng được tung ra thị trường. Ông cũng lập luận rằng các khuôn khổ hiện có như Mục 230, giải phóng các nền tảng khỏi trách nhiệm pháp lý đối với nội dung mà người dùng đăng tải, sẽ không phải là cách phù hợp để điều chỉnh hệ thống.

“Đối với một công nghệ rất mới, chúng tôi cần một khuôn khổ mới,” Altman nói.

Cả Altman và Gary Marcus, giáo sư danh dự về tâm lý học và khoa học thần kinh tại Đại học New York, người cũng làm chứng tại phiên điều trần, đều kêu gọi thành lập một cơ quan quản lý mới cho công nghệ này. Marcus lập luận rằng AI rất phức tạp và phát triển nhanh chóng, khiến “một cơ quan có công việc toàn thời gian” là điều chỉnh nó trở nên quan trọng.

Trong suốt phiên điều trần, các thượng nghị sĩ đã đưa ra những điểm tương đồng giữa mạng xã hội và trí tuệ nhân tạo AI, và những bài học mà các nhà lập pháp đã học được từ việc chính phủ không hành động để điều chỉnh các nền tảng xã hội.

Tuy nhiên, phiên điều trần ít gây tranh cãi hơn nhiều so với những phiên điều trần mà Giám đốc điều hành Meta, Mark Zuckerberg, đã làm chứng. Nhiều nhà lập pháp đã công nhận Altman vì những lời kêu gọi của ông về quy định và thừa nhận về những cạm bẫy của trí tuệ nhân tạo. Ngay cả Marcus, người đã đưa ra sự hoài nghi về công nghệ, đã gọi lời khai của Altman là chân thành.

Phiên điều trần diễn ra khi các chuyên gia và nhà đạo đức học nổi tiếng và được kính trọng về AI, bao gồm cả cựu nhà nghiên cứu của Google, Tiến sĩ Timnit Gebru , người đồng lãnh đạo nhóm AI có đạo đức của công ty và Meredith Whitaker, đã gióng lên hồi chuông cảnh báo về việc áp dụng nhanh chóng AI tổng quát, tranh luận về công nghệ này. được thổi phồng quá mức. Whitaker, hiện là chủ tịch của ứng dụng nhắn tin an toàn Signal, gần đây đã nói trong một cuộc phỏng vấn với Meet the Press Reports: “Ý tưởng rằng điều này sẽ trở thành một nguồn lợi ích xã hội một cách kỳ diệu… là một điều viển vông được sử dụng để tiếp thị các chương trình này.

Cô ấy lập luận rằng AI sáng tạo là một cỗ máy xác suất “được thiết kế để đưa ra những thứ có vẻ hợp lý” dựa trên “một lượng lớn dữ liệu giám sát hiệu quả đã được lấy từ web”.

Thượng nghị sĩ Josh Hawley và Richard Blumenthal cho biết phiên điều trần này chỉ là bước đầu tiên để hiểu về công nghệ.

Blumenthal cho biết ông đã nhận ra điều mà ông mô tả là “những hứa hẹn” của công nghệ bao gồm “chữa bệnh ung thư, phát triển những hiểu biết mới về vật lý và sinh học, hoặc lập mô hình khí hậu và thời tiết”.

Những rủi ro tiềm ẩn mà Blumenthal cho biết ông lo lắng bao gồm deepfakes, thông tin sai lệch được vũ khí hóa, phân biệt đối xử về nhà ở, quấy rối phụ nữ và lừa đảo mạo danh. Ông nói: “Đối với tôi, có lẽ cơn ác mộng lớn nhất là cuộc cách mạng công nghiệp mới sắp xảy ra, sự di dời của hàng triệu công nhân.

Altman nói rằng trong khi OpenAI đang xây dựng các công cụ mà một ngày nào đó sẽ “ giải quyết một số thách thức lớn nhất của nhân loại như biến đổi khí hậu và chữa bệnh ung thư”, thì các hệ thống hiện tại vẫn chưa có khả năng thực hiện những điều này.

Nhưng ông tin rằng lợi ích của các công cụ được triển khai cho đến nay “vượt xa rủi ro” và cho biết công ty tiến hành thử nghiệm rộng rãi và triển khai các hệ thống giám sát và an toàn trước khi phát hành bất kỳ hệ thống mới nào.

“OpenAI được thành lập dựa trên niềm tin rằng trí tuệ nhân tạo có khả năng cải thiện gần như mọi khía cạnh trong cuộc sống của chúng ta nhưng nó cũng tạo ra những rủi ro nghiêm trọng mà chúng ta phải hợp tác để quản lý,” Altman nói.

Altman cho biết công nghệ này sẽ ảnh hưởng đáng kể đến thị trường việc làm nhưng ông tin rằng “sẽ có nhiều việc làm lớn hơn ở phía bên kia của thị trường này”.

“Công việc sẽ trở nên tốt hơn,” anh nói. “Tôi nghĩ điều quan trọng là coi GPT như một công cụ chứ không phải một sinh vật … GPT 4 và các công cụ như thế này thực hiện tốt các nhiệm vụ chứ không phải công việc. Tôi nghĩ GPT 4 sẽ tự động hóa hoàn toàn một số công việc và nó sẽ tạo ra những công việc mới mà chúng tôi tin rằng sẽ tốt hơn nhiều.”

Altman cũng cho biết ông rất lo ngại về tác động mà các dịch vụ mô hình ngôn ngữ lớn sẽ gây ra đối với các cuộc bầu cử và thông tin sai lệch, đặc biệt là trước các cuộc bầu cử sơ bộ.

Chỉ có một số ít công ty trên thế giới có sự kết hợp giữa dữ liệu và sức mạnh cơ sở hạ tầng để tạo ra thứ mà chúng tôi gọi là AI từ mũi đến đuôi

Meredith Whitaker:

“Có rất nhiều điều chúng tôi có thể và làm được,” Altman nói khi trả lời câu hỏi của Thượng nghị sĩ Amy Klobuchar về một tweet ChatGPT được tạo ra liệt kê các địa điểm bỏ phiếu giả mạo. “Có những điều mô hình sẽ không làm và có sự giám sát. Ở quy mô lớn… chúng tôi có thể phát hiện ai đó tạo ra nhiều tweet [thông tin sai lệch] đó.”

Altman vẫn chưa có câu trả lời về cách những người sáng tạo nội dung có tác phẩm đang được sử dụng trong các bài hát, bài báo hoặc các tác phẩm khác do AI tạo ra có thể được đền bù như thế nào, nói rằng công ty đang tham gia với các nghệ sĩ và các tổ chức khác về mô hình kinh tế đó sẽ như thế nào. Khi được Klobuchar hỏi về cách anh ấy lên kế hoạch khắc phục các mối đe dọa đối với các ấn phẩm tin tức địa phương có nội dung đang bị thu thập và sử dụng để huấn luyện các mô hình này, Altman cho biết anh ấy hy vọng công cụ này sẽ giúp ích cho các nhà báo nhưng “nếu có những điều chúng tôi có thể làm để giúp đỡ địa phương tin tức, chúng tôi chắc chắn muốn”.

Được đề cập đến nhưng phần lớn bị bỏ sót trong cuộc trò chuyện là mối nguy hiểm tiềm ẩn của một nhóm nhỏ những người chơi quyền lực đang thống trị ngành, một Whitaker năng động đã cảnh báo những rủi ro đang cố thủ trong các động lực quyền lực hiện có.

“Chỉ có một số ít công ty trên thế giới có sự kết hợp giữa dữ liệu và sức mạnh cơ sở hạ tầng để tạo ra thứ mà chúng tôi gọi là AI từ đầu đến cuối,” cô nói trong cuộc phỏng vấn Gặp gỡ báo chí. “Chúng tôi hiện đang ở vị trí mà công nghệ được thổi phồng quá mức này đang được tạo ra, phân phối và cuối cùng được định hình để phục vụ lợi ích kinh tế của cùng một số tác nhân này.”