GPT, viết tắt của Generative Pre-trained Transformer, là một lớp mô hình trí tuệ nhân tạo tạo sinh có khả năng tạo ra văn bản, tóm tắt tài liệu, viết email, trả lời câu hỏi, hỗ trợ lập trình hoặc phân tích dữ liệu theo yêu cầu bằng ngôn ngữ tự nhiên. Nói đơn giản, GPT giống như “bộ não ngôn ngữ” đứng sau nhiều chatbot AI nổi tiếng hiện nay, bao gồm Chat GPT.
Ba chữ trong GPT giúp giải thích bản chất của công nghệ này. “Generative” nghĩa là có khả năng tạo nội dung mới. “Pre-trained” nghĩa là mô hình đã được huấn luyện trước trên khối lượng dữ liệu rất lớn trước khi được tinh chỉnh cho các nhiệm vụ cụ thể. “Transformer” là kiến trúc học sâu cho phép mô hình nhận biết mối liên hệ giữa các từ, câu và ngữ cảnh trong một đoạn văn.
