Làm thế nào để ngăn chặn thông tin độc hại trên ChatGPT?

Nhờ tính năng vượt trội của công nghệ AI, ChatGPT đã thu hút đông người dùng trên thế giới. Vậy làm thế nào để ngăn chặn các thông tin độc hại trên ChatGPT?
Công cụ ChatGPT: Cười nghiêng ngả với những câu trả lời hài hước 'Nở rộ' dịch vụ mua bán tài khoản, dịch vụ Chat GPT

Báo Công Thương đã có cuộc trao đổi với PGS. TS. Nguyễn Trường Thắng - Viện trưởng Viện Công nghệ thông tin, Viện Hàn lâm Khoa học và Công nghệ Việt Nam về vấn đề này.

Thưa ông, công cụ ChatGPT của OpenAI đã và đang tạo cơn sốt với người dùng trên toàn thế giới, vậy đâu là những tính năng vượt trội của công cụ này?

ChatGPT (Chat Generative Pre-trained Transformer) là một chatbot do công ty công nghệ OpenAI phát triển. ChatGPT có thể được hiểu đơn giản là một công cụ sử dụng AI (trí tuệ nhân tạo). Điểm đặc biệt của AI nằm ở kỹ thuật diễn giải ngôn ngữ một cách rất tự nhiên cùng với kho “kiến thức” vô cùng lớn mà ChatGPT có được từ bộ dữ liệu huấn luyện ban đầu do OpenAI dựng sẵn (300 tỷ từ).

Làm thế nào để ngăn chặn thông tin độc hại trên ChatGPT?
PGS.TS Nguyễn Trường Thắng cho rằng cần phải tăng cường đưa các bài viết tích cực bằng tiếng Anh lên các trang điện tử để chống những thông tin độc hại trên ChatGPT

ChatGPT có thể trả lời lưu loát đầy đủ các câu hỏi mà bạn đưa ra, bất kể là thắc mắc về lĩnh vực gì. Bên cạnh đó, ChatGPT còn có thể làm thơ, soạn nhạc, viết thư, thiết kế và thậm chí là cả sửa lỗi trong lập trình. Với những câu trả lời chưa đạt theo đánh giá của người dùng, ChatGPT là chatbot tương tác nên nó vẫn tiếp nhận liên tục các phản hồi, đánh giá đúng sai của người dùng với từng phiên truy vấn; và tiếp tục “tự học” và tinh chỉnh kiến thức của mình. Nhiều người đã sử dụng ChatGPT để làm những việc trên, điều này đã khiến cho AI ngày càng thông minh hơn. Cơ chế của ChatGPT là tự học dựa trên phản hồi từ người dùng.

Vậy điểm khác biệt giữa ChatGPT với Google Search hay với các công cụ chatbot khác là gì thưa ông?

Hiện nay, ChatGPT mới ở dạng thử nghiệm nên phần giao diện tương tác đơn giản ở mức dòng lệnh, nhập từ bàn phím. Trong khi đó, Google Search hay các chatbot như Siri của iPhone, Alexa của Amazon, dữ liệu khẩu lệnh đã được tích hợp.

ChatGPT sử dụng trí tuệ nhân tạo dựa trên mô hình dữ liệu lớn, cao cấp hơn các hệ thống truy vấn hàng đầu trên thế giới hiện nay như Google Search. Sự khác biệt cơ bản nhất giữa ChatGPT và các công cụ truy vấn như Google Search, Microsoft Bing… nằm ở kết quả đầu ra.

Các công cụ tìm kiếm thông minh, ví dụ: Google Search, như tên gọi chỉ hỗ trợ tìm kiếm nhanh các tài liệu phù hợp nhất (theo quan điểm và đánh giá của phần mềm) với truy vấn từ người dùng rồi sắp xếp theo thứ tự từ trên xuống (thậm chí có sự ưu tiên cao cho phần kết quả liên quan tới đối tác quảng cáo, tài trợ của Google). Việc lựa chọn tài liệu nào để lấy thông tin liên quan tới nội dung truy vấn là do người dùng. Tức là, người dùng phải tự đánh giá tài liệu nào là phù hợp với tiêu chí tìm kiếm của mình. Sau đó, người dùng sẽ phải tổng hợp từ nhiều tài liệu mà họ nghĩ là phù hợp để có được kết quả chung cho chủ đề truy vấn. Rõ ràng, người dùng phải tự lựa chọn và tổng hợp thông tin.

Làm thế nào để ngăn chặn thông tin độc hại trên ChatGPT?
Với tính năng vượt trội của công nghệ AI, ChatGPT có thể làm thơ, viết văn, soạn nhạc

Trong khi đó, ChatGPT chỉ đưa ra duy nhất một văn bản trả lời (nội dung cơ bản đúng với phần lớn các chủ đề truy vấn tổng quan, độ chính xác của các con số trong dữ liệu thường không cập nhật sau năm 2021).ChatGPT là có thể hiểu là một công cụ tư vấn tự động, trả lời mọi câu hỏi của người dùng với một câu trả lời.

Như vậy, ChatGPT không đẩy việc lựa chọn thông tin cho người dùng mà bản thân nó đã chủ động phân loại, lựa chọn thông tin từ các tài liệu phù hợp trong kho dữ liệu có sẵn của nó (chỉ cập nhật đến năm 2021); và tổng hợp chúng lại thành một văn bản duy nhất. Nội dung câu trả lời hầu như không có sự liên quan trực tiếp của các đối tác tài trợ cho OpenAI. Đây chính là điểm nổi trội của ChatGPT so với các công cụ truy vấn, tìm kiếm hiện có, đặc biệt là Google Search– sản phẩm nổi bật nhất mà chúng ta thường xuyên tin tưởng sử dụng khi muốn tìm kiếm thông tin.

ChatGPT là công cụ có tính tương tác. Nó lưu giữ ký ức về lịch sử các truy vấn và bối cảnh hiện tại để xác định miền kiến thức phù hợp với người dùng trong quá trình tìm kiếm, tổng hợp cho câu trả lời tiếp theo. Tức là, phản hồi từ người dùng đối với các câu hỏi phía trước sẽ ảnh hưởng tới cách ChatGPT tổ chức và xây dựng câu trả lời ở phía sau. Với các chatbot khác, cùng một câu truy vấn cho Google Search sẽ cho danh sách các tài liệu như nhau, độc lập với các câu truy vấn trước đó của cùng người dùng. Đây là sự khác biệt mang đặc trưng “chuỗi tương tác” của ChatGPT.

Vậy ông đánh giá như thế nào về xu hướng người dùng với ChatGPT thời gian tới?

Mặc dù mới đang được thử nghiệm, tuy nhiên ChatGPT đang tạo cơn sốt với người dùng trên thế giới, nhưng tôi tin rằng xu hướng sử dụng ChatGPT sẽ tăng cao. Như đã nói ở trên, sự khác biệt trong tính năng công nghệ của ChatGPT so với các công nghệ thông minh hiện có như Google Search nằm ở chỗ ChatGPT không đẩy việc lựa chọn thông tin cho người dùng mà bản thân nó đã chủ động phân loại, lựa chọn thông tin từ các tài liệu phù hợp trong kho dữ liệu có sẵn của nó; và tổng hợp chúng lại thành một văn bản duy nhất.

Rõ ràng ChatGPT khác biệt với Google Search – sản phẩm nổi bật nhất mà chúng ta thường xuyên tin tưởng sử dụng khi muốn tìm kiếm thông tin. Với sự đột phá về công nghệ phân loại và tổng hợp thông tin được tích hợp trong ChatGPT, tính năng mới này chắc chắn sẽ thu hút nhiều người dùng hơn vì nó hỗ trợ thêm 1 khâu quan trọng khác trong công việc là phân tích và tổng hợp thông tin, thay vì chỉ tìm kiếm như trước đây.

Như thế, ChatGPT sẽ là công cụ đắc lực với đại đa số người dùng với kiến thức phổ thông, đơn giản khi giúp họ phân loại và tổng hợp những thông tin, dữ liệu trong lĩnh vực họ cần tìm hiểu. Kết quả mà ChatGPT tư vấn cho người dùng sẽ tốt ở phân khúc kiến thức sơ bộ, phổ thông và dữ liệu chỉ cập nhật tới năm 2021 (do kho dữ liệu dựng sẵn mà OpenAI dùng đề “huấn luyện” nó chỉ cập nhật đến năm 2021). Tuy nhiên, với những phân khúc người dùng đòi hỏi kiến thức chuyên sâu, dữ liệu sau năm 2021 thì ChatGPT không thể đáp ứng được yêu cầu công việc. Chất lượng các phản hồi của ChatGPT đối với những truy vấn, yêu cầu chuyên sâu thường không chính xác, chưa hoàn chỉnh như thực tế phản ánh bởi nhiều người dùng trong giai đoạn thử nghiệm vừa qua.

Vậy nhìn từ chủ quyền quốc gia về không gian mạng và thông tin về quốc gia cũng như của một ngành nghề kinh tế nào đó, các cơ quan quản lý nhà nước phải làm gì để ngăn chặn thông tin độc hại trên ChatGPT?

ChatGPT là bước đột phá của trí tuệ nhân tạo. Các tác động của nó gồm cả hai mặt tích cực và tiêu cực. Do đó, người dùng cần khai thác các giá trị của nó và thận trọng với các mặt trái. Công cụ này giúp con người trả lời hầu hết các câu hỏi trong một thời gian rất ngắn.

Nội dung câu trả lời là sự tổng hợp thông tin dựa vào kiến thức mà OpenAI huấn luyện ChatGPT với bộ dữ liệu văn bản có sẵn (như đã nói ở trên 300 tỷ từ vựng với số liệu cập nhật tới năm 2021).

Do đó người dùng cần có sự kiểm chứng và tự đánh giá độ xác thực của nội dung phản hồi từ ChatGPT. Khi dữ liệu không có hoặc rất ít trong bộ dữ liệu huấn luyện ban đầu của OpenAI, khả năng ChatGPT sẽ trả lời chung chung, hoặc không chính xác. Điều này đã được thể hiện thông qua thử nghiệm bởi những người dùng với các câu hỏi chuyên sâu như đã trao đổi ở trên.

Với những câu trả lời chưa đạt yêu cầu, ChatGPT là chatbot tương tác với người dùng nên nó vẫn tiếp nhận liên tục các phản hồi, đánh giá đúng sai của người dùng với từng phiên truy vấn; và tiếp tục “tự học” và tinh chỉnh kiến thức của mình.

Với vai trò là công cụ tư vấn, công nghệ trí tuệ nhân tạo như phần mềm ChatGPT chỉ nên được xem xét trong việc hỗ trợ con người thu thập thông tin, kiến thức; và đề xuất, tư vấn một câu trả lời “phù hợp” nhất theo quan điểm của bộ dữ liệu văn bản cực lớn ban đầu của OpenAI. Người dùng cần có tư duy phản biện, năng lực đánh giá nội dung thông tin, và nên coi đó như một nguồn tham khảo có độ tin cậy nhất định.

Thông tin xấu, bất lợi về một quốc gia hay ngành kinh tế nào đó, nếu có trong ChatGPT, sẽ chỉ nằm trong phần trả lời của ChatGPT cho người dùng và nội dung được sinh ra hoàn toàn tự động từ kho dữ liệu văn bản dựng sẵn mà OpenAI huấn luyện ChatGPT (như đã nói ở trên 300 tỷ từ vựng với số liệu cập nhật tới năm 2021).

Làm thế nào để ngăn chặn thông tin độc hại trên ChatGPT?
Cơ quan quản lý sẽ phải có nhiều cấp độ tiếp cận để ngăn chặn các rủi ro. Ảnh minh họa

Với dữ liệu dựng sẵn của OpenAI, nó có ảnh hưởng trực tiếp tới nhận thức của ChatGPT về các mặt KT-XH, văn hóa, khoa học công nghệ… Nếu kho tài liệu này chứa các dữ liệu không phù hợp với hoàn cảnh KT-XH của Việt Nam, khả năng cao là ChatGPT sẽ như một đứa trẻ bị nhồi các kiến thức, quan điểm không đúng về Việt Nam hoặc các ngành kinh tế, lĩnh vực của đất nước. Và hệ quả là các phản hồi của nó sẽ không chính xác, dẫn đến nguy cơ thông tin xấu được truyền tải tới người dùng nếu họ đặt niềm tin quá lớn vào công cụ này.

Cơ quan quản lý sẽ phải có nhiều cấp độ tiếp cận để ngăn chặn các rủi ro này. Vậy cách ứng phó của chúng ta cần như thế nào trong xu thế tất yếu của việc phổ cập sử dụng các công cụ như ChatGPT và Google Search trong xã hội số hiện nay? Mỗi quốc gia, các ngành kinh tế, doanh nghiệp phải có tăng cường thông tin, hình ảnh tích cực của mình thông qua nhiều bài viết có nội dung tích cực và số liệu phù hợp, cập nhật. Càng nhiều bài viết được đẩy lên Internet thì chúng ta sẽ tăng cường sức mạnh truyền tải nội dung, quan điểm chính thống của Việt Nam tới các công cụ thông minh như Google Search hay ChatGPT để trở thành dữ liệu huấn luyện cơ bản cho các hệ thống học máy của Google hay OpenAI.

Xin cảm ơn ông!

Thu Hường
Bạn thấy bài viết này thế nào?
Kém Bình thường ★ ★ Hứa hẹn ★★★ Tốt ★★★★ Rất tốt ★★★★★
Bài viết cùng chủ đề: ChatGPT

Có thể bạn quan tâm

Tin mới nhất

Hơn 100 triệu tài khoản người Việt Nam sử dụng mạng xã hội trong nước

Hơn 100 triệu tài khoản người Việt Nam sử dụng mạng xã hội trong nước

Theo Bộ Thông tin và Truyền thông, tổng số lượng tài khoản người Việt Nam sử dụng mạng xã hội trong nước khoảng 110 triệu và nước ngoài khoảng 203 triệu.
Xe sang thuần điện Genesis sẽ có mặt tại Hyundai Experience Day 2024

Xe sang thuần điện Genesis sẽ có mặt tại Hyundai Experience Day 2024

Thông tin từ Hyundai Thành Công Việt Nam cho biết, mẫu xe sang thuần điện Genesis sẽ có mặt tại Hyundai Experience Day 2024.
Thương hiệu ô tô điện Việt hé lộ dòng xe mới với mức giá rẻ sẽ trở thành mẫu xe quốc dân

Thương hiệu ô tô điện Việt hé lộ dòng xe mới với mức giá rẻ sẽ trở thành mẫu xe quốc dân

Thương hiệu xe điện VinFast vừa xác nhận sẽ sớm ra mắt dòng xe mới được thiết kế để phục vụ nhóm khách hàng kinh doanh dịch vụ, ví dụ như xe taxi, xe công nghệ.
Xây dựng hệ sinh thái khởi nghiệp sáng tạo, tạo động lực mới cho phát triển trong kỷ nguyên mới

Xây dựng hệ sinh thái khởi nghiệp sáng tạo, tạo động lực mới cho phát triển trong kỷ nguyên mới

Theo Bộ Khoa học và Công nghệ, hệ sinh thái khởi nghiệp sáng tạo Việt Nam đạt nhiều dấu ấn, thành tựu mạnh mẽ, được cộng đồng trong nước, quốc tế đánh giá cao.
Xe điện tiếp tục là

Xe điện tiếp tục là 'át chủ bài', doanh thu quý III/2024 của VinFast tăng 49,3%

VinFast Auto báo cáo sản lượng giao xe quý III tăng 115%, doanh thu tăng 49,3% so với cùng kỳ năm ngoái, đạt 511,6 triệu USD và xe điện tiếp tục là 'át chủ bài'

Tin cùng chuyên mục

Ô tô "xanh" tiếp cận thị trường Việt theo cách đa chiều

Ô tô "xanh" tiếp cận thị trường Việt theo cách đa chiều

Ngành ô tô Việt Nam đang chuyển đổi từ xe động cơ xăng sang các phương tiện ít tác động đến môi trường hơn, đặt nhiều kỳ vọng vào xu hướng điện hoá.
4 ngày nữa, chính sách giảm lệ phí trước bạ cho ô tô sản xuất trong nước hết hiệu lực

4 ngày nữa, chính sách giảm lệ phí trước bạ cho ô tô sản xuất trong nước hết hiệu lực

Từ ngày 1/12/2024, mức thu lệ phí trước bạ cho ô tô sản xuất trong nước sẽ như cũ, ở mức từ 10 - 12% giá trị xe bởi chính sách giảm 50% giá trị hết hiệu lực.
Để ngành công nghiệp ô tô Việt Nam hòa vào

Để ngành công nghiệp ô tô Việt Nam hòa vào 'dòng chảy' cung ứng toàn cầu

Các sản phẩm mới tại thị trường trong nước đã chứng minh ngành công nghiệp ô tô Việt Nam có thể hòa vào chuỗi cung ứng thế giới, giúp phát triển nền kinh tế.
Hội nghị Thành phố thông minh Việt Nam - châu Á năm 2024 diễn ra từ ngày 2-3/12

Hội nghị Thành phố thông minh Việt Nam - châu Á năm 2024 diễn ra từ ngày 2-3/12

Hội nghị Thành phố thông minh Việt Nam - châu Á năm 2024 sẽ diễn ra từ ngày 2-3/12/2024 với chủ đề: “Đô thị thông minh - Kinh tế số - Phát triển bền vững”.
Omoda C5 chính thức ra mắt thị trường Việt Nam, giá bán từ 589 triệu đồng kèm nhiều ưu đãi

Omoda C5 chính thức ra mắt thị trường Việt Nam, giá bán từ 589 triệu đồng kèm nhiều ưu đãi

Tân binh Omoda & Jaecoo Việt Nam vừa chính thức trình làng mẫu xe đầu tiên Omoda C5 với giá bán từ 589 triệu đồng, kèm theo nhiều ưu đãi.
Chung kết cuộc thi tìm kiếm tài năng khởi nghiệp sáng tạo quốc gia 2024

Chung kết cuộc thi tìm kiếm tài năng khởi nghiệp sáng tạo quốc gia 2024

Sáng 26/11, tại TP. Hải Phòng, vòng chung kết cuộc thi tìm kiếm tài năng khởi nghiệp sáng tạo quốc gia (Techfest Việt Nam) 2024 đã chính thức diễn ra.
Hãng xe Việt lọt top 30 thương hiệu bán chạy ô tô điện nhất thế giới năm 2024

Hãng xe Việt lọt top 30 thương hiệu bán chạy ô tô điện nhất thế giới năm 2024

Trong 3 quý năm 2024, dữ liệu chỉ ra hãng xe điện Việt Nam VinFast có doanh số đạt 44.260 chiếc, đứng thứ 28 trên toàn thế giới, đứng trên Honda, Subaru.
Lí do hai hãng ô tô Hàn Quốc triệu hồi 200.000 xe điện

Lí do hai hãng ô tô Hàn Quốc triệu hồi 200.000 xe điện

Tập đoàn ô tô Hyundai đang triệu hồi 208.107 xe điện ở Mỹ vì chúng có thể bị mất nguồn truyền động, hoàn toàn không di chuyển được.
Hãng xe thương hiệu Việt chính thức bàn giao lô xe điện VF5 đầu tiên tại Indonesia

Hãng xe thương hiệu Việt chính thức bàn giao lô xe điện VF5 đầu tiên tại Indonesia

Sau 9 tháng gia nhập thị trường Indonesia, hãng xe thương hiệu Việt vừa công bố chính thức bàn giao mẫu ô tô điện VinFast VF5 tại thị trường này.
Dàn SUV châu Âu hạng sang cập bến thị trường Việt Nam dịp cuối năm 2024

Dàn SUV châu Âu hạng sang cập bến thị trường Việt Nam dịp cuối năm 2024

Chỉ trong 2 tháng 10 và 11, thị trường Việt Nam đón nhận nhiều sản phẩm ô tô gầm cao hạng sang bao gồm Mercedes-Maybach EQS, Volvo EC 40 và Range Rover Velar.
EU và Trung Quốc tiến gần đến thỏa thuận xóa bỏ thuế quan đối với ô tô điện

EU và Trung Quốc tiến gần đến thỏa thuận xóa bỏ thuế quan đối với ô tô điện

Brussels và Bắc Kinh có thể sớm đồng ý bãi bỏ thuế nhập khẩu xe điện Trung Quốc vào châu Âu.
Mẫu bán tải bán chạy tại Đông Nam Á cập nhật động cơ hybrid

Mẫu bán tải bán chạy tại Đông Nam Á cập nhật động cơ hybrid

Mẫu xe bán tải Isuzu D-Max và chiếc SUV MU-X đã noi gương chiếc Toyota Hilux trong việc bổ sung tùy chọn động cơ hybrid nhẹ, giúp tiết kiệm nhiên liệu hơn.
Lượng ô tô nhập khẩu trong nửa đầu tháng 11 tăng mạnh

Lượng ô tô nhập khẩu trong nửa đầu tháng 11 tăng mạnh

Theo số liệu của Tổng cục Hải quan, 15 ngày đầu tháng 11, cả nước nhập khẩu hơn 10.000 ô tô nguyên chiếc các loại, tổng kim ngạch đạt 212,71 triệu USD.
Ngày hội khởi nghiệp sáng tạo Việt Nam 2024 diễn ra tại Hải Phòng

Ngày hội khởi nghiệp sáng tạo Việt Nam 2024 diễn ra tại Hải Phòng

Sáng 21/11, Bộ Khoa học và Công nghệ tổ chức họp báo về Ngày hội khởi nghiệp sáng tạo Việt Nam (TECHFEST) 2024. Sự kiện sẽ diễn ra từ 26-28/11 tại Hải Phòng.
Cận cảnh

Cận cảnh 'cá voi bay' gây chú ý khi xuất hiện ở sân bay Nội Bài

Tối 19/11, hình ảnh về chiếc máy bay cỡ lớn có hình dạng như cá voi đã xuất hiện tại sân bay Nội Bài, TP. Hà Nội, gây chú ý nhiều người theo dõi.
Lô xe Omoda C5 chính thức cập cảng, sẵn sàng bàn giao cho khách hàng Việt

Lô xe Omoda C5 chính thức cập cảng, sẵn sàng bàn giao cho khách hàng Việt

Lô xe Omoda C5 đầu tiên hoàn tất thủ tục thông quan tại cảng Hải Phòng vào sáng nay và chính thức chuyển giao cho nhà phân phối Omoda & Jaecoo Việt Nam.
Vì sao xăng sinh học RON 92 E5 vẫn gặp thách thức tại thị trường Việt Nam?

Vì sao xăng sinh học RON 92 E5 vẫn gặp thách thức tại thị trường Việt Nam?

Dù được phân phối gần 10 năm nay, nhiên liệu sinh học RON 92 E5 vẫn chưa được nhiều chủ sở hữu phương tiện sử dụng vì chưa hiểu rõ về loại xăng này.
Giám sát chương trình triệu hồi gần 2.700 xe Honda CR-V e:HEV RS để thay thế bơm nhiên liệu cao áp

Giám sát chương trình triệu hồi gần 2.700 xe Honda CR-V e:HEV RS để thay thế bơm nhiên liệu cao áp

Ủy ban Cạnh tranh Quốc gia đang thực hiện giám sát chương trình triệu hồi gần 2.700 xe Honda CR-V e:HEV RS để thay thế bơm nhiên liệu cao áp.
ICT Competition 2024 - 2025 chính thức khởi động, nhiều cơ hội học tập cho sinh viên công nghệ

ICT Competition 2024 - 2025 chính thức khởi động, nhiều cơ hội học tập cho sinh viên công nghệ

Huawei Việt Nam chính thức khởi động cuộc thi ICT Competition 2024-2025. Đây là cuộc thi thường niên dành cho sinh viên chuyên ngành công nghệ toàn thế giới.
VinBigdata vào top 10 thế giới về công nghệ nhận diện khuôn mặt

VinBigdata vào top 10 thế giới về công nghệ nhận diện khuôn mặt

Công ty Cổ phần VinBigdata (Tập đoàn Vingroup) vào top 10 thế giới ở hạng mục nhận diện khuôn mặt Mugshot Webcam
Xem thêm
Mobile VerionPhiên bản di động