Làm thế nào để ngăn chặn thông tin độc hại trên ChatGPT?

Nhờ tính năng vượt trội của công nghệ AI, ChatGPT đã thu hút đông người dùng trên thế giới. Vậy làm thế nào để ngăn chặn các thông tin độc hại trên ChatGPT?
Công cụ ChatGPT: Cười nghiêng ngả với những câu trả lời hài hước 'Nở rộ' dịch vụ mua bán tài khoản, dịch vụ Chat GPT

Báo Công Thương đã có cuộc trao đổi với PGS. TS. Nguyễn Trường Thắng - Viện trưởng Viện Công nghệ thông tin, Viện Hàn lâm Khoa học và Công nghệ Việt Nam về vấn đề này.

Thưa ông, công cụ ChatGPT của OpenAI đã và đang tạo cơn sốt với người dùng trên toàn thế giới, vậy đâu là những tính năng vượt trội của công cụ này?

ChatGPT (Chat Generative Pre-trained Transformer) là một chatbot do công ty công nghệ OpenAI phát triển. ChatGPT có thể được hiểu đơn giản là một công cụ sử dụng AI (trí tuệ nhân tạo). Điểm đặc biệt của AI nằm ở kỹ thuật diễn giải ngôn ngữ một cách rất tự nhiên cùng với kho “kiến thức” vô cùng lớn mà ChatGPT có được từ bộ dữ liệu huấn luyện ban đầu do OpenAI dựng sẵn (300 tỷ từ).

Làm thế nào để ngăn chặn thông tin độc hại trên ChatGPT?
PGS.TS Nguyễn Trường Thắng cho rằng cần phải tăng cường đưa các bài viết tích cực bằng tiếng Anh lên các trang điện tử để chống những thông tin độc hại trên ChatGPT

ChatGPT có thể trả lời lưu loát đầy đủ các câu hỏi mà bạn đưa ra, bất kể là thắc mắc về lĩnh vực gì. Bên cạnh đó, ChatGPT còn có thể làm thơ, soạn nhạc, viết thư, thiết kế và thậm chí là cả sửa lỗi trong lập trình. Với những câu trả lời chưa đạt theo đánh giá của người dùng, ChatGPT là chatbot tương tác nên nó vẫn tiếp nhận liên tục các phản hồi, đánh giá đúng sai của người dùng với từng phiên truy vấn; và tiếp tục “tự học” và tinh chỉnh kiến thức của mình. Nhiều người đã sử dụng ChatGPT để làm những việc trên, điều này đã khiến cho AI ngày càng thông minh hơn. Cơ chế của ChatGPT là tự học dựa trên phản hồi từ người dùng.

Vậy điểm khác biệt giữa ChatGPT với Google Search hay với các công cụ chatbot khác là gì thưa ông?

Hiện nay, ChatGPT mới ở dạng thử nghiệm nên phần giao diện tương tác đơn giản ở mức dòng lệnh, nhập từ bàn phím. Trong khi đó, Google Search hay các chatbot như Siri của iPhone, Alexa của Amazon, dữ liệu khẩu lệnh đã được tích hợp.

ChatGPT sử dụng trí tuệ nhân tạo dựa trên mô hình dữ liệu lớn, cao cấp hơn các hệ thống truy vấn hàng đầu trên thế giới hiện nay như Google Search. Sự khác biệt cơ bản nhất giữa ChatGPT và các công cụ truy vấn như Google Search, Microsoft Bing… nằm ở kết quả đầu ra.

Các công cụ tìm kiếm thông minh, ví dụ: Google Search, như tên gọi chỉ hỗ trợ tìm kiếm nhanh các tài liệu phù hợp nhất (theo quan điểm và đánh giá của phần mềm) với truy vấn từ người dùng rồi sắp xếp theo thứ tự từ trên xuống (thậm chí có sự ưu tiên cao cho phần kết quả liên quan tới đối tác quảng cáo, tài trợ của Google). Việc lựa chọn tài liệu nào để lấy thông tin liên quan tới nội dung truy vấn là do người dùng. Tức là, người dùng phải tự đánh giá tài liệu nào là phù hợp với tiêu chí tìm kiếm của mình. Sau đó, người dùng sẽ phải tổng hợp từ nhiều tài liệu mà họ nghĩ là phù hợp để có được kết quả chung cho chủ đề truy vấn. Rõ ràng, người dùng phải tự lựa chọn và tổng hợp thông tin.

Làm thế nào để ngăn chặn thông tin độc hại trên ChatGPT?
Với tính năng vượt trội của công nghệ AI, ChatGPT có thể làm thơ, viết văn, soạn nhạc

Trong khi đó, ChatGPT chỉ đưa ra duy nhất một văn bản trả lời (nội dung cơ bản đúng với phần lớn các chủ đề truy vấn tổng quan, độ chính xác của các con số trong dữ liệu thường không cập nhật sau năm 2021).ChatGPT là có thể hiểu là một công cụ tư vấn tự động, trả lời mọi câu hỏi của người dùng với một câu trả lời.

Như vậy, ChatGPT không đẩy việc lựa chọn thông tin cho người dùng mà bản thân nó đã chủ động phân loại, lựa chọn thông tin từ các tài liệu phù hợp trong kho dữ liệu có sẵn của nó (chỉ cập nhật đến năm 2021); và tổng hợp chúng lại thành một văn bản duy nhất. Nội dung câu trả lời hầu như không có sự liên quan trực tiếp của các đối tác tài trợ cho OpenAI. Đây chính là điểm nổi trội của ChatGPT so với các công cụ truy vấn, tìm kiếm hiện có, đặc biệt là Google Search– sản phẩm nổi bật nhất mà chúng ta thường xuyên tin tưởng sử dụng khi muốn tìm kiếm thông tin.

ChatGPT là công cụ có tính tương tác. Nó lưu giữ ký ức về lịch sử các truy vấn và bối cảnh hiện tại để xác định miền kiến thức phù hợp với người dùng trong quá trình tìm kiếm, tổng hợp cho câu trả lời tiếp theo. Tức là, phản hồi từ người dùng đối với các câu hỏi phía trước sẽ ảnh hưởng tới cách ChatGPT tổ chức và xây dựng câu trả lời ở phía sau. Với các chatbot khác, cùng một câu truy vấn cho Google Search sẽ cho danh sách các tài liệu như nhau, độc lập với các câu truy vấn trước đó của cùng người dùng. Đây là sự khác biệt mang đặc trưng “chuỗi tương tác” của ChatGPT.

Vậy ông đánh giá như thế nào về xu hướng người dùng với ChatGPT thời gian tới?

Mặc dù mới đang được thử nghiệm, tuy nhiên ChatGPT đang tạo cơn sốt với người dùng trên thế giới, nhưng tôi tin rằng xu hướng sử dụng ChatGPT sẽ tăng cao. Như đã nói ở trên, sự khác biệt trong tính năng công nghệ của ChatGPT so với các công nghệ thông minh hiện có như Google Search nằm ở chỗ ChatGPT không đẩy việc lựa chọn thông tin cho người dùng mà bản thân nó đã chủ động phân loại, lựa chọn thông tin từ các tài liệu phù hợp trong kho dữ liệu có sẵn của nó; và tổng hợp chúng lại thành một văn bản duy nhất.

Rõ ràng ChatGPT khác biệt với Google Search – sản phẩm nổi bật nhất mà chúng ta thường xuyên tin tưởng sử dụng khi muốn tìm kiếm thông tin. Với sự đột phá về công nghệ phân loại và tổng hợp thông tin được tích hợp trong ChatGPT, tính năng mới này chắc chắn sẽ thu hút nhiều người dùng hơn vì nó hỗ trợ thêm 1 khâu quan trọng khác trong công việc là phân tích và tổng hợp thông tin, thay vì chỉ tìm kiếm như trước đây.

Như thế, ChatGPT sẽ là công cụ đắc lực với đại đa số người dùng với kiến thức phổ thông, đơn giản khi giúp họ phân loại và tổng hợp những thông tin, dữ liệu trong lĩnh vực họ cần tìm hiểu. Kết quả mà ChatGPT tư vấn cho người dùng sẽ tốt ở phân khúc kiến thức sơ bộ, phổ thông và dữ liệu chỉ cập nhật tới năm 2021 (do kho dữ liệu dựng sẵn mà OpenAI dùng đề “huấn luyện” nó chỉ cập nhật đến năm 2021). Tuy nhiên, với những phân khúc người dùng đòi hỏi kiến thức chuyên sâu, dữ liệu sau năm 2021 thì ChatGPT không thể đáp ứng được yêu cầu công việc. Chất lượng các phản hồi của ChatGPT đối với những truy vấn, yêu cầu chuyên sâu thường không chính xác, chưa hoàn chỉnh như thực tế phản ánh bởi nhiều người dùng trong giai đoạn thử nghiệm vừa qua.

Vậy nhìn từ chủ quyền quốc gia về không gian mạng và thông tin về quốc gia cũng như của một ngành nghề kinh tế nào đó, các cơ quan quản lý nhà nước phải làm gì để ngăn chặn thông tin độc hại trên ChatGPT?

ChatGPT là bước đột phá của trí tuệ nhân tạo. Các tác động của nó gồm cả hai mặt tích cực và tiêu cực. Do đó, người dùng cần khai thác các giá trị của nó và thận trọng với các mặt trái. Công cụ này giúp con người trả lời hầu hết các câu hỏi trong một thời gian rất ngắn.

Nội dung câu trả lời là sự tổng hợp thông tin dựa vào kiến thức mà OpenAI huấn luyện ChatGPT với bộ dữ liệu văn bản có sẵn (như đã nói ở trên 300 tỷ từ vựng với số liệu cập nhật tới năm 2021).

Do đó người dùng cần có sự kiểm chứng và tự đánh giá độ xác thực của nội dung phản hồi từ ChatGPT. Khi dữ liệu không có hoặc rất ít trong bộ dữ liệu huấn luyện ban đầu của OpenAI, khả năng ChatGPT sẽ trả lời chung chung, hoặc không chính xác. Điều này đã được thể hiện thông qua thử nghiệm bởi những người dùng với các câu hỏi chuyên sâu như đã trao đổi ở trên.

Với những câu trả lời chưa đạt yêu cầu, ChatGPT là chatbot tương tác với người dùng nên nó vẫn tiếp nhận liên tục các phản hồi, đánh giá đúng sai của người dùng với từng phiên truy vấn; và tiếp tục “tự học” và tinh chỉnh kiến thức của mình.

Với vai trò là công cụ tư vấn, công nghệ trí tuệ nhân tạo như phần mềm ChatGPT chỉ nên được xem xét trong việc hỗ trợ con người thu thập thông tin, kiến thức; và đề xuất, tư vấn một câu trả lời “phù hợp” nhất theo quan điểm của bộ dữ liệu văn bản cực lớn ban đầu của OpenAI. Người dùng cần có tư duy phản biện, năng lực đánh giá nội dung thông tin, và nên coi đó như một nguồn tham khảo có độ tin cậy nhất định.

Thông tin xấu, bất lợi về một quốc gia hay ngành kinh tế nào đó, nếu có trong ChatGPT, sẽ chỉ nằm trong phần trả lời của ChatGPT cho người dùng và nội dung được sinh ra hoàn toàn tự động từ kho dữ liệu văn bản dựng sẵn mà OpenAI huấn luyện ChatGPT (như đã nói ở trên 300 tỷ từ vựng với số liệu cập nhật tới năm 2021).

Làm thế nào để ngăn chặn thông tin độc hại trên ChatGPT?
Cơ quan quản lý sẽ phải có nhiều cấp độ tiếp cận để ngăn chặn các rủi ro. Ảnh minh họa

Với dữ liệu dựng sẵn của OpenAI, nó có ảnh hưởng trực tiếp tới nhận thức của ChatGPT về các mặt KT-XH, văn hóa, khoa học công nghệ… Nếu kho tài liệu này chứa các dữ liệu không phù hợp với hoàn cảnh KT-XH của Việt Nam, khả năng cao là ChatGPT sẽ như một đứa trẻ bị nhồi các kiến thức, quan điểm không đúng về Việt Nam hoặc các ngành kinh tế, lĩnh vực của đất nước. Và hệ quả là các phản hồi của nó sẽ không chính xác, dẫn đến nguy cơ thông tin xấu được truyền tải tới người dùng nếu họ đặt niềm tin quá lớn vào công cụ này.

Cơ quan quản lý sẽ phải có nhiều cấp độ tiếp cận để ngăn chặn các rủi ro này. Vậy cách ứng phó của chúng ta cần như thế nào trong xu thế tất yếu của việc phổ cập sử dụng các công cụ như ChatGPT và Google Search trong xã hội số hiện nay? Mỗi quốc gia, các ngành kinh tế, doanh nghiệp phải có tăng cường thông tin, hình ảnh tích cực của mình thông qua nhiều bài viết có nội dung tích cực và số liệu phù hợp, cập nhật. Càng nhiều bài viết được đẩy lên Internet thì chúng ta sẽ tăng cường sức mạnh truyền tải nội dung, quan điểm chính thống của Việt Nam tới các công cụ thông minh như Google Search hay ChatGPT để trở thành dữ liệu huấn luyện cơ bản cho các hệ thống học máy của Google hay OpenAI.

Xin cảm ơn ông!

Thu Hường
Bạn thấy bài viết này thế nào?
Kém Bình thường ★ ★ Hứa hẹn ★★★ Tốt ★★★★ Rất tốt ★★★★★
Bài viết cùng chủ đề: ChatGPT

Có thể bạn quan tâm

Tin mới nhất

Thêm giải pháp an ninh mạng cho các doanh nghiệp trong lĩnh vực ngân hàng, dịch vụ tài chính

Thêm giải pháp an ninh mạng cho các doanh nghiệp trong lĩnh vực ngân hàng, dịch vụ tài chính

ManageEngine đặt kế hoạch hỗ trợ về công nghệ thông tin cho 500 khách hàng doanh nghiệp tại Việt Nam ở các lĩnh vực ngân hàng, dịch vụ tài chính và bảo hiểm.
Honda Việt Nam triệu hồi hơn 220 xe Gold Wing và CBR1000RR để khắc phục lỗi chết máy, khó khởi động

Honda Việt Nam triệu hồi hơn 220 xe Gold Wing và CBR1000RR để khắc phục lỗi chết máy, khó khởi động

Honda Việt Nam công bố chiến dịch triệu hồi 221 xe Gold Wing và CBR1000RR để kiểm tra hiện tượng phồng cánh bơm xăng gây lỗi chết máy và khó khởi động.
Google, Apple có thể phải “tách nhỏ” khi bị các nhà lập pháp điều tra

Google, Apple có thể phải “tách nhỏ” khi bị các nhà lập pháp điều tra

Các ông lớn công nghệ đang đối mặt với nguy cơ phải tách thành các công ty nhỏ khi Hoa Kỳ và châu Âu tiến hành điều tra về các cáo buộc chống cạnh tranh.
Lexus LM 500h hoàn toàn mới giá từ hơn 7 tỷ có gì nổi bật

Lexus LM 500h hoàn toàn mới giá từ hơn 7 tỷ có gì nổi bật

Lexus LM hoàn toàn mới được ra mắt ngày 26/3, đã được cải tiến toàn diện, chỉ sử dụng hệ truyền động hybrid.
Nissan sẽ ra mắt 30 mẫu xe mới, đặt mục tiêu tăng trưởng doanh số 1 triệu xe năm 2027

Nissan sẽ ra mắt 30 mẫu xe mới, đặt mục tiêu tăng trưởng doanh số 1 triệu xe năm 2027

Nissan sẽ ra mắt 30 mẫu xe mới trong 3 năm tới và đặt mục tiêu tăng doanh số bán hàng toàn cầu thêm 1 triệu xe, đồng thời cắt giảm chi phí, cải thiện lợi nhuận.

Tin cùng chuyên mục

Vì sao kim ngạch xuất khẩu ô tô Hàn Quốc sụt giảm?

Vì sao kim ngạch xuất khẩu ô tô Hàn Quốc sụt giảm?

Tổng giá trị xuất khẩu ô tô của Hàn Quốc đạt 5,16 tỷ USD trong tháng 2/2024, giảm so với mức 5,59 tỷ USD cùng kỳ năm trước.
Đưa kỹ thuật hạt nhân và đồng vị phóng xạ phục vụ phát triển kinh tế - xã hội

Đưa kỹ thuật hạt nhân và đồng vị phóng xạ phục vụ phát triển kinh tế - xã hội

Nhiều thành tích đáng ghi nhận trong nghiên cứu khoa học và chuyển giao ứng dụng kỹ thuật hạt nhân phục vụ phát triển kinh tế - xã hội của đất nước.
Thị trường bưu chính Việt Nam tăng trưởng nhanh chóng

Thị trường bưu chính Việt Nam tăng trưởng nhanh chóng

Số doanh nghiệp bưu chính tăng 18 lần (từ 40 lên hơn 700 doanh nghiệp); doanh thu dịch vụ bưu chính tăng 14 lần (từ 4.000 tỷ đồng lên 59.000 tỷ đồng)...
Toyota Việt Nam triệu hồi hơn 1.300 xe Land Cruiser và Lexus LX600

Toyota Việt Nam triệu hồi hơn 1.300 xe Land Cruiser và Lexus LX600

Toyota Việt Nam cho biết, hơn 1.300 xe Land Cruiser 300 và Lexus LX600 sẽ được triệu hồi để cập nhật phần mềm điều khiển hộp số tự động.
Lượng xe ô tô nhập khẩu trong nửa đầu tháng 3 tăng cao

Lượng xe ô tô nhập khẩu trong nửa đầu tháng 3 tăng cao

Số lượng ô tô nguyên chiếc tiếp tục duy trì ở mức cao trong nửa đầu tháng 3/2024. Lượng ô tô nguyên chiếc nhập khẩu đã có nhiều khởi sắc kể từ nửa cuối tháng 2.
Hướng đi mới trong sản xuất giấy bao gói thực phẩm

Hướng đi mới trong sản xuất giấy bao gói thực phẩm

Một nghiên cứu mở ra triển vọng sản xuất nanocellulose và nanochitosan thương phẩm từ nguồn nguyên liệu trong nước, để ứng dụng sản xuất giấy bao gói thực phẩm.
Apple bị kiện vì độc quyền iPhone trên thị trường Hoa Kỳ

Apple bị kiện vì độc quyền iPhone trên thị trường Hoa Kỳ

Ngày 21/3, Bộ Tư pháp và nhiều bang của Hoa Kỳ đã đệ đơn kiện chống lại tập đoàn Apple cáo buộc tập đoàn này độc quyền bất hợp pháp thị trường.
Mỹ: Đường sắt trên Mặt Trăng có thể đóng góp vào nền kinh tế vũ trụ

Mỹ: Đường sắt trên Mặt Trăng có thể đóng góp vào nền kinh tế vũ trụ

Cơ quan Chỉ đạo các Dự án Nghiên cứu Quốc phòng Tiên tiến Mỹ (DARPA) đang thúc đẩy phát triển ý tưởng xây đường sắt trên Mặt Trăng.
Tập đoàn Intel chuẩn bị đầu tư 100 tỷ USD khắp 4 bang của Hoa Kỳ

Tập đoàn Intel chuẩn bị đầu tư 100 tỷ USD khắp 4 bang của Hoa Kỳ

Intel có kế hoạch đầu tư 100 tỷ USD trên khắp 4 bang của Hoa Kỳ để xây dựng và mở rộng nhà máy sau khi được 19,5 tỷ USD tiền tài trợ và khoản vay liên bang.
Xe điện Vinfast mở rộng thị trường sang Tây Thái Bình Dương

Xe điện Vinfast mở rộng thị trường sang Tây Thái Bình Dương

Ngày 20/3, VinFast Auto ký kết thỏa thuận hợp tác với Công ty Guam AutoSpot việc phân phối xe điện VinFast tại thị trường vùng Micronesia, Tây Thái Bình Dương.
Để dữ liệu trở thành “bệ phóng” chứ đừng là “đầm lầy”

Để dữ liệu trở thành “bệ phóng” chứ đừng là “đầm lầy”

Trong bối cảnh công nghệ bùng nổ, dữ liệu không chỉ là kho tàng thông tin mà còn được ví như “bệ phóng” giúp doanh nghiệp bứt phá.
"Điểm tên" 38 doanh nghiệp bưu chính tại Hà Nội không hoạt động tại địa chỉ đăng ký

"Điểm tên" 38 doanh nghiệp bưu chính tại Hà Nội không hoạt động tại địa chỉ đăng ký

38 doanh nghiệp bưu chính không hoạt động tại địa chỉ ghi trên giấy phép bưu chính đã được cấp và không liên hệ được qua điện thoại, thư điện tử đã đăng ký.
Giảm giá bán Vios và Veloz Cross, bên nào được lợi?

Giảm giá bán Vios và Veloz Cross, bên nào được lợi?

Từ đầu tháng 3/2024, Toyota Việt Nam chính thức áp dụng chính sách giá bán mới với 2 mẫu xe chiến lược Vios và Veloz Cross.
Apple đang trở nên nghiêm túc hơn với lĩnh vực trí tuệ nhân tạo

Apple đang trở nên nghiêm túc hơn với lĩnh vực trí tuệ nhân tạo

Apple dường như cuối cùng đã vén bức màn về một số nỗ lực trong lĩnh vực trí tuệ nhân tạo (AI).
Ấn Độ muốn trở thành cường quốc bán dẫn toàn cầu; Trung Quốc phát minh thiết bị sản xuất hydro

Ấn Độ muốn trở thành cường quốc bán dẫn toàn cầu; Trung Quốc phát minh thiết bị sản xuất hydro

Giới chức Ấn Độ cho biết, nước này có tham vọng trở thành một trong 5 nhà sản xuất chất bán dẫn hàng đầu thế giới trong 5 năm tới.
Tập đoàn công nghệ nói về thị trường công nghệ số và AI tại Việt Nam

Tập đoàn công nghệ nói về thị trường công nghệ số và AI tại Việt Nam

Ngày 18/3 tại Hà Nội, Viettel IDC cùng các tập đoàn công nghệ đã tổ chức hội nghị DCCI Summit với chủ đề Phát triển tương lai số bền vững.
Thách thức Đổi mới sáng tạo Việt Nam năm 2024: Thúc đẩy ngành công nghiệp bán dẫn và trí tuệ nhân tạo

Thách thức Đổi mới sáng tạo Việt Nam năm 2024: Thúc đẩy ngành công nghiệp bán dẫn và trí tuệ nhân tạo

Lãnh đạo Bộ Kế hoạch và Đầu tư khẳng định, Việt Nam có nhiều cơ hội, tiềm năng phát triển ngành công nghiệp bán dẫn và trí tuệ nhân tạo.
Đưa dịch vụ mua - bán xe đã qua sử dụng chuyên nghiệp đến miền Tây

Đưa dịch vụ mua - bán xe đã qua sử dụng chuyên nghiệp đến miền Tây

Nền tảng mua bán xe đã qua sử dụng Carpla vừa khai trương Automall Carpla Cần Thơ; nâng số lượng showroom thuộc hệ thống lên con số 6, phủ rộng từ Bắc đến Nam.
Mỹ thúc đẩy ngành công nghiệp xe điện

Mỹ thúc đẩy ngành công nghiệp xe điện

Bộ Năng lượng Mỹ đang lên kế hoạch cung cấp một khoản vay trị giá 2,26 tỷ USD cho dự án khai thác lithium. nguồn nguyên liệu quan trọng để sản xuất pin xe điện.
Người đứng đầu nhà mạng phải chịu trách nhiệm về SIM rác

Người đứng đầu nhà mạng phải chịu trách nhiệm về SIM rác

Từ ngày 15/4/2024, các doanh nghiệp viễn thông di động chịu hoàn toàn trách nhiệm nếu trên thị trường còn xuất hiện SIM được phát triển mới không đúng quy định.
Xem thêm
Mobile VerionPhiên bản di động