AI Lab chọn 3 bài báo tại ACL 2024, hội nghị hàng đầu xem kèo bóng đá lĩnh vực xử lý ngôn ngữ tự nhiên

xem kèo bóng đá những năm gần đây, với sự phát triển nhanh chóng của thị trường quảng cáo trên Internet, người ta tập trung vào việc nâng cao hiệu quả sản xuất và vận hành sáng tạo bằng công nghệ AI để tối đa hóa hiệu quả quảng cáo Tại Phòng thí nghiệm AI, chúng tôi đang tăng cường hợp tác giữa ngành và học viện với các trường đại học và tổ chức học thuật để giải quyết các vấn đề kỹ thuật khác nhau xem kèo bóng đá lĩnh vực sáng tạo, đồng thời đang tập trung vào nghiên cứu và phát triển nhiều loại công nghệ AI

Đặc biệt, nhóm nghiên cứu của chúng tôi xem kèo bóng đá lĩnh vực xử lý ngôn ngữ tự nhiên đang tham gia vào nghiên cứu cơ bản về "tự động tạo văn bản quảng cáo" và "hiểu cách diễn đạt quảng cáo", cũng như dự đoán và tự động tạo văn bản quảng cáo hiệu quả bằng cách sử dụng AI do công ty chúng tôi cung cấpTD dự đoán cựcNgoài ra, chủ đề nghiên cứu của nhóm học tăng cường là RLHF※3, vv và cũng đang tiến triển với nghiên cứu liên ngành

※3 Học tăng cường từ phản hồi của con người, một phương pháp học máy để tối ưu hóa hiệu suất thông qua học tăng cường sử dụng phản hồi của con người

●Phiên họp toàn thể

「」
Tác giả: Masato Mita, Soichiro Murakami, Akihiko Kato, Bainan Zhang (CyberAgent AI Lab)

Để giải quyết các hạn chế của việc tạo quảng cáo thủ công, nghiên cứu về việc tạo văn bản quảng cáo tự động (sau đây gọi là ATG) đang được tiến hành Tuy nhiên, do việc thiết lập vấn đề không được chia sẻ giữa các nghiên cứu và thiếu dữ liệu điểm chuẩn mở và toàn diện nên rất khó để tiến hành đánh giá định lượng giữa các nghiên cứu Để giải quyết những thách thức này, chúng tôi đã tiêu chuẩn hóa các nhiệm vụ ATG và đề xuất bộ dữ liệu chuẩn đầu tiên có tên là CAMERA Hơn nữa, thông qua các thử nghiệm sử dụng chín đường cơ sở, từ các phương pháp truyền thống đến các mô hình ngôn ngữ quy mô lớn (LLM) mới nhất, chúng tôi đã làm rõ những thành tựu hiện tại và những thách thức còn tồn tại ＜Link bài viết＞

●Kết quả

「」
Tác giả: Yu Jinnai, Ukyo Honda, Tetsuro Morimura, Baiku Zhang (Phòng thí nghiệm AI của CyberAgent)

Giải mã rủi ro Bayes tối thiểu (MBR) là phương pháp tạo văn bản chất lượng cao từ các mô hình tạo văn bản Tuy nhiên, khi MBR tạo ra nhiều văn bản thì nó gặp phải vấn đề là tạo ra văn bản thiếu đa dạng và có nhiều trùng lặp xem kèo bóng đá nghiên cứu này, chúng tôi đã phát triển MBR và đề xuất một phương pháp tạo ra nhiều văn bản không chỉ có chất lượng cao mà còn đa dạng Ngoài ra, để ứng dụng phương pháp được đề xuất, chúng tôi đang phát triển một phương pháp để tạo ra các bộ dữ liệu phản hồi đa dạng và chất lượng cao cho Học tăng cường từ phản hồi của con người (RLHF) ＜Link bài viết＞

「」
Tác giả: Yu Jinnai, Kaito Ariu (CyberAgent AI Lab)

MBR có nhược điểm là thời gian tính toán cực kỳ dài so với các phương pháp tạo văn bản thông thường (tìm kiếm chùm tia, vv) xem kèo bóng đá nghiên cứu này, chúng tôi phát hiện ra rằng vấn đề tối ưu hóa được xử lý bởi MBR có thể được giảm xuống thành vấn đề tìm medoids (điểm đại diện) từ một tập hợp điểm Dựa trên phát hiện này, chúng tôi đã đề xuất một phương pháp giúp giảm đáng kể thời gian tính toán bằng cách áp dụng phương pháp nhận dạng nhánh tối ưu cho bài toán kẻ cướp nhiều nhánh ＜Link bài viết＞

Kết quả của những nghiên cứu này sẽ được sử dụng để dự đoán và tự động tạo văn bản quảng cáo hiệu quả bằng cách sử dụng AI do công ty chúng tôi cung cấpDự đoán cực TD'' và mô hình ngôn ngữ quy mô lớn (LLM) chuyên dùng cho tiếng Nhật, ``CyberAgentLM'' xem kèo bóng đá tương lai, "AI Lab" sẽ tiếp tục theo đuổi nghiên cứu và phát triển trên nhiều lĩnh vực nhằm phát triển LLM có độ chính xác cao, nhằm mục đích sản xuất và vận hành quảng cáo hiệu quả hơn



※1
※2