Tài chính

Cảnh báo về ChatGPT: "Trợ lý mã hoá" có thể "ăn cắp" thông tin mật dù giúp tăng năng suất gấp 10 lần

Cảnh báo về ChatGPT: 'Trợ lý mã hoá' có thể 'ăn cắp' thông tin mật dù giúp tăng năng suất gấp 10 lần - Ảnh 1.

Tháng trước, kênh Slack nội bộ của Amazon tràn ngập các câu hỏi của nhân viên về ChatGPT, công cụ trí tuệ nhân tạo đang gây ‘bão’ thời gian gần đây. Một số thắc mắc liệu Amazon có đưa ra những hướng dẫn chính thức về cách sử dụng ChatGPT, trong khi số khác thì đặt nghi vấn liệu họ có được phép sử dụng công cụ AI trong công việc. Đa số đều thúc giục đơn vị đám mây Amazon Web Services (AWS) công bố thông tin về các công cụ AI tổng quát, trong đó có ChatGPT.

Ngay sau đó, một luật sư của Amazon đã lên tiếng. Bà cảnh báo các nhân viên không được cung cấp cho ChatGPT “bất kỳ thông tin mật nào của Amazon (bao gồm cả mã code), theo BI. Cố vấn cấp cao cũng đề nghị toàn bộ nhân viên tuân thủ chính sách bảo mật do đã có trường hợp phản hồi ChatGPT giống hệt dữ liệu nội bộ.

“Điều này rất quan trọng. Thông tin đầu vào có thể được sử dụng làm dữ liệu chuẩn cho những lần lặp lại ChatGPT tiếp theo. Chúng tôi không muốn đầu ra của nó bao gồm hoặc giống với thông tin mật của Amazon”, luật sư nói.

Theo BI, ChatGPT là công cụ AI có thể phản hồi các câu hỏi một cách thông minh và rõ ràng. Sự phát triển nhanh chóng của nó được cho là có khả năng thúc đẩy một số ngành công nghiệp, phương tiện truyền thông, học thuật và chăm sóc sức khỏe.

Tuy nhiên, nghi vấn xoay quanh rủi ro chia sẻ thông tin mật với ChatGPT và OpenAI có thể là vấn đề lớn. Điều này đặc biệt đúng đối với Amazon bởi đối thủ cạnh tranh chính của họ là Microsoft - tập đoàn vốn đã đầu tư rất nhiều vào OpenAI, gần đây nhất là 10 tỷ USD.

Cảnh báo về ChatGPT: 'Trợ lý mã hoá' có thể 'ăn cắp' thông tin mật dù giúp tăng năng suất gấp 10 lần - Ảnh 2.

Microsoft - tập đoàn đầu tư rất nhiều vào OpenAI

“OpenAI không thể minh bạch cách chúng sử dụng dữ liệu. Sau vài tháng sử dụng ChatGPT, các tập đoàn sẽ tự hỏi liệu nó có thể trích xuất thông tin mật của công ty hay không?”, Emily Bender, giảng viên Đại học Washington cho biết.

Được biết Amazon đã đưa ra một số biện pháp bảo vệ nội bộ đối với ChatGPT. Chẳng hạn như khi nhân viên sử dụng thiết bị làm việc truy cập trang web ChatGPT, một thông báo cảnh báo sẽ hiện lên, cho biết họ sắp truy cập dịch vụ của bên thứ ba - thứ có thể không được Amazon Security chấp thuận sử dụng. Các nhân viên trên Slack cho biết họ có thể bỏ qua thông báo đó bằng cách nhấp vào tab “Xác nhận”.

Theo các chuyên gia, Amazon làm vậy để cảnh báo nhân viên không được tiết lộ bất kỳ thông tin bí mật nào cho ChatGPT, nhất là trong bối cảnh tập đoàn này chưa hề đưa ra chính sách cụ thể về việc sử dụng ChatGPT nội bộ.

Tuy nhiên, một số nhân viên Amazon đã sử dụng công cụ AI mới này như một “trợ lý mã hóa” phần mềm hiệu quả. “Tôi nghĩ sẽ thật tuyệt nếu có thể sử dụng ChatGPT ngay bây giờ. Hướng dẫn cụ thể của Amazon là điều cần thiết lúc này”, một nhân viên cho biết.

“Tôi vừa sợ vừa hào hứng muốn biết ChatGPT sẽ tác động như thế nào đến cách chúng tôi viết code”, một nhân viên khác chia sẻ trên Slack.

Nhìn chung, các nhân viên Amazon rất hào hứng với tiềm năng ChatGPT. Họ còn tự hỏi liệu Amazon có đang phát triển một sản phẩm cạnh tranh hay không.

Một nghiên cứu cho thấy ChatGPT đang “làm rất tốt” việc trả lời các câu hỏi hỗ trợ của AWS, bao gồm cả những câu hỏi hóc búa như khắc phục sự cố cơ sở dữ liệu Aurora. ChatGPT này cũng có thể hỗ trợ Amazon xây dựng tài liệu đào tạo và chỉ ra mục tiêu của khách hàng.

Cảnh báo về ChatGPT: 'Trợ lý mã hoá' có thể 'ăn cắp' thông tin mật dù giúp tăng năng suất gấp 10 lần - Ảnh 3.

Việc sử dụng chatbot tại nơi làm việc đã giúp năng suất nhân viên Amazon tăng gấp 10 lần

Thông tin nội bộ tiết lộ việc sử dụng chatbot tại nơi làm việc đã giúp năng suất nhân viên Amazon tăng gấp 10 lần. Nhiều người cũng bày tỏ mong muốn tham gia vào các nhóm nội bộ đang phát triển dịch vụ tương tự.

“Nếu có sáng kiến xây dựng một dịch vụ tương tự, tôi chắc chắn sẽ hỗ trợ nếu cần”, một trong những nhân viên chia sẻ trên Slack.

Đây được cho là một trải nghiệm rất khác so với việc tự tìm kiếm thông tin qua những đường link trên Google. Nhiều người dùng nhận định nói chuyện với ChatGPT cứ như hỏi một giáo viên về những vấn đề chuyên sâu vậy.

Tuy nhiên, theo Forbes, ChatGPT hiện chỉ là công cụ giúp các lập trình viên làm việc dễ dàng hơn và chưa đủ khả năng thay thế hoàn toàn bộ não con người. Nhiều yêu cầu khó đến mức chính chatbot này cũng thừa nhận nó không thể hiểu, không thể làm, hoặc có làm mà bị sai.

“ChatGPT vẫn còn nhiều thiếu sót nhưng lại khiến mọi người cho rằng nó hoàn hảo. Chúng ta không nên phụ thuộc vào chatbot này đối với những vấn đề quan trọng”, CEO Sam Altman của Open AI chia sẻ.

“Internet có rất nhiều thông tin sai lệch. Điều này rất nguy hiểm đối với ngành giáo dục và ảnh hưởng xấu đến bọn trẻ. Giáo viên cần dạy chúng những gì nên làm và không nên làm khi sử dụng ChatGPT”, Beverly Pell, cựu giáo viên bang California, chia sẻ.

Theo: BI, The US Sun

Cùng chuyên mục

Đọc thêm