tỷ lệ kèo bóng đá trực tuyến Nhằm mục tiêu phát triển AI sáng tạo của Nhật Bản
Tại sao CyberAgent lại tham gia phát triển LLM

-tỷ lệ kèo bóng đá trực tuyến nghe nói rằng quá trình phát triển LLM bắt đầu khá sớm, khoảng một năm rưỡi trước Tại sao bạn bắt đầu phát triển vào thời điểm đó?

Mouri:CyberAgent đã thành lập bộ phận sáng tạo AI vào năm 2017 và đang nỗ lực tạo ra các quảng cáo có hiệu quả cao bằng cách sử dụng AI Trên thực tế, chúng tỷ lệ kèo bóng đá trực tuyến đã và đang sử dụng AI dự đoán hiệu ứng để tối đa hóa hiệu quả quảng cáoAI dự đoán cực” và “TD dự đoán cực'', đồng thời dự đoán, tạo và vận hành các trang đích ``LP Dự đoán Cực'' và nhiều dịch vụ khác Kỹ sư máy học Ishigami, người khởi xướng phát triển LLM lần này và Tamatsu, người phụ trách phát triển LP dự đoán cực, là những thành viên tham gia phát triển dịch vụ trong lĩnh vực sáng tạo AI này

Ishigami:Một trong những công nghệ AI được sử dụng trong Chuỗi dự đoán cực đoan là AI tự động tạo ra các cụm từ quảng cáo có hiệu quả cao và chúng tỷ lệ kèo bóng đá trực tuyến nghĩ rằng LLM, một chủ đề nóng vào thời điểm đó, có thể được sử dụng để cải thiện độ chính xác này Người ta nhận thấy rằng hiệu suất của LLM được cải thiện bằng cách tăng kích thước của mô hình và lượng dữ liệu huấn luyện^※, quá trình phát triển bắt đầu từ chính sách đó

^{*Bài viết do OpenAI “Luật mở rộng quy mô cho các mô hình ngôn ngữ thần kinh” xuất bản vào tháng 1 năm 2020}

- Bản thân việc phát triển LLM có vẻ rất khó khăn, nhưng tài sản phát triển cần có là gì?

Ishigami:Chúng tỷ lệ kèo bóng đá trực tuyến không chỉ cần các kỹ sư và nhà nghiên cứu có thể phát triển LLM xử lý lượng lớn dữ liệu mà còn cần phải bảo mật tài nguyên máy tính (thường là các máy được gọi là GPU)

Quá trình phát triển chủ yếu được thực hiện bởi một số kỹ sư thuộc lĩnh vực sáng tạo AI, bao gồm cả tỷ lệ kèo bóng đá trực tuyến và Tamatsu, nhưng tổ chức nghiên cứu và phát triển ``'' về dữ liệu tiếng Nhật

Cũng cần chuẩn bị tài nguyên tính toán để huấn luyện mô hình Khi phát triển LLM, bạn càng có nhiều tài nguyên tính toán thì việc học sẽ được hoàn thành nhanh hơn
Mặc dù rào cản mua GPU tiên tiến ở Nhật Bản rất cao,Hợp tác kinh doanh với NVIDIAlà GPU mới nhấtGiới thiệu NVIDIA H100Thật tuyệt vời khi tỷ lệ kèo bóng đá trực tuyến có thể làm được điều đó Điều này đạt được thông qua sự hợp tác chặt chẽ với tổ chức cơ sở hạ tầng chuyên biệt nội bộ của chúng tỷ lệ kèo bóng đá trực tuyến, CIU

-Tháng 5 năm nay, công bố phát triển LLM với 13 tỷ tham số Tuần sau, họ tung ra chính mô hình tham số 6,8 tỷ Có rất nhiều phản hồi nhưng tại sao bạn lại phát hành mô hình?

Ishigami:Thành thật mà nói, phản hồi còn nhiều hơn tỷ lệ kèo bóng đá trực tuyến mong đợi
Sự khác biệt giữa hai mô hình này là dữ liệu học tập được sử dụng cho việc học tập là khác nhau và 6,8 tỷ mô hình đã được mở đều dựa trên dữ liệu minh bạch như Wikipedia và Common Crawl
^{*Mô hình có 13 tỷ tham số bao gồm một số dữ liệu nội bộ}

Chúng tỷ lệ kèo bóng đá trực tuyến đã cân nhắc việc công khai mô hình này ngay từ khi nảy ra khái niệm phát triển LLM và trên thực tế, chúng tỷ lệ kèo bóng đá trực tuyến muốn mở rộng nó ngay từ đầu

Điều này là do có rất ít LLM ở Nhật Bản giỏi tiếng Nhật và tỷ lệ kèo bóng đá trực tuyến cảm thấy đây là một vấn đề Sử dụng hợp lý ở nước ngoài^※và hiểu biết sâu sắc về phát triển công nghệ nhưng Nhật Bản vẫn còn yếu trong lĩnh vực này Có rất ít dữ liệu về các văn bản tiếng Nhật mở có thể nghiên cứu được và nguồn lực tính toán cũng còn hạn chế

^{*Nguyên tắc pháp lý quy định rằng các tác phẩm có bản quyền có thể được sử dụng lại mà không cần xin phép chủ sở hữu bản quyền miễn là đáp ứng một số điều kiện nhất định}

Cho dù mất bao lâu, chúng ta cũng sẽ tụt hậu so với AI do nước ngoài sản xuất
Hãy xem xét vấn đề này một cách nghiêm túcMột công ty không thể làm việc này một mình; cần phải tạo ra một LLM phối hợp với quốc gia, các công ty và học viện Thay vì độc quyền về công nghệ, chúng tỷ lệ kèo bóng đá trực tuyến tin rằng chúng tỷ lệ kèo bóng đá trực tuyến cần tạo ra thứ gì đó cởi mở và thu hút nhiều người tham gia để cải thiện hiệu suất và đóng góp vào khả năng cạnh tranh công nghệ của Nhật Bản
Đó là lý do tại sao lần này chúng tỷ lệ kèo bóng đá trực tuyến mở cửa cho công chúng

-Trên thực tế, LLM có sẵn trên thị trường bao gồm các mẫu có kích thước nhỏđã

Tamazu:Từ góc độ kinh doanh, kích thước mô hình càng lớn thì càng tốt Nếu các điều kiện khác ngoài kích thước mô hình giống nhau thì mô hình càng lớn thì chất lượng phát điện càng cao nhưng mô hình cũng sẽ đòi hỏi chi phí vận hành cao hơn nên cần có sự cân bằng và sẽ cần sử dụng các mô hình khác nhau tùy theo ứng dụng

Mẫu ra mắt lần này làCó sẵn các mô hình với nhiều kích cỡ để từng nhà nghiên cứu/nhà phát triển có thể chạy chúng trên PC của riêng họ cũng như trong các phòng thí nghiệm như học việntỷ lệ kèo bóng đá trực tuyến đã làm được Điều này là do tỷ lệ kèo bóng đá trực tuyến tin rằng điều quan trọng là phải mở rộng tầm nhìn bằng cách cho nhiều người tiếp xúc với chủ đề này

Chúng tỷ lệ kèo bóng đá trực tuyến vẫn đang hướng tới việc cải thiện hiệu suất, nhưng do phát hành nó vào thời điểm mà hiệu suất tiếng Nhật chưa hoàn hảo 100%, chúng tỷ lệ kèo bóng đá trực tuyến muốn tạo một mô hình cho toàn bộ Nhật Bản dựa trên phản hồi của mọi người rằng ở đây tốt nhưng vẫn chưa đủ tốt

--Bạn đang mong muốn phát triển LLM trong tương lai, nhưng bạn đang nghĩ đến điều gì?

Ishigami:Về mặt nghiên cứu và phát triển, chúng tỷ lệ kèo bóng đá trực tuyến mong muốn phát triển các mẫu mã có hiệu suất tốt hơn
Ngoài ra, việc phát triển LLM đòi hỏi phải học hỏi sâu rộng và phải mất rất nhiều thời gian, từ vài tháng đến vài năm để tạo ra một mô hình, vì vậy đây là một quá trình phát triển nghiêm ngặt mà thất bại không phải là một lựa chọn tỷ lệ kèo bóng đá trực tuyến vẫn chưa có nhiều bí quyết liên quan đến quá trình phát triển, vì vậy tỷ lệ kèo bóng đá trực tuyến muốn tích cực chia sẻ nó với thế giới bên ngoài

Ngoài ra, chúng tỷ lệ kèo bóng đá trực tuyến còn sử dụng siêu máy tính "Fugaku", nhưng chúng tỷ lệ kèo bóng đá trực tuyến muốn tập trung vào những sáng kiến như vậy cũng như nghiên cứu chung về LLM với giới học thuật

Mouri:Là một doanh nghiệp, trước tiên chúng tỷ lệ kèo bóng đá trực tuyến sẽ sử dụng LLM và tiếp tục tập trung vào việc cải thiện độ chính xác của các dịch vụ hiện có của mình Đã có sẵn trong nhàAI dự đoán cựcỪTD dự đoán cựcChúng tỷ lệ kèo bóng đá trực tuyến hiện đang sử dụng nó cho các chức năng như tạo bản sao quảng cáo, nhưng các dịch vụ của chúng tỷ lệ kèo bóng đá trực tuyến không phải là quảng cáoY tếỪChatbot, vv

Hơn nữa, trong tương lai, chúng tỷ lệ kèo bóng đá trực tuyến muốn hợp tác với các công ty khác để xây dựng một LLM dành riêng cho ngành để tìm hiểu dữ liệu đặc thù của ngành, từ đó xây dựng một LLM mạnh về thuật ngữ/kiến thức chuyên ngành mà các dịch vụ AI thế hệ hiện tại chưa có và trả lại kiến thức đó cho Nhật Bản Dựa trên LLM, một loạt hoạt động phát triển kinh doanh sắp bắt đầu

- LLM có thể là nguồn lợi thế cạnh tranh của CyberAgent

Mouri:Điều này chắc chắn đúng trong lĩnh vực quảng cáo Trong tương lai, tỷ lệ kèo bóng đá trực tuyến nghĩ điều quan trọng là phải mở rộng phạm vi sử dụng của nó

Ishigami:tỷ lệ kèo bóng đá trực tuyến tin rằng làn sóng thời đại như "Khoảnh khắc ChatGPT" đã diễn ra trong sáu tháng qua sẽ lại xảy ra trong vài năm tới Điều quan trọng là tạo ra một hệ thống phát triển AI có thể cạnh tranh với hệ thống đó và tỷ lệ kèo bóng đá trực tuyến nghĩ điều đó sẽ dẫn đến khả năng cạnh tranh với tư cách là một công ty

Tuy nhiên, thay vì phải giải quyết vấn đề này một mình, chúng tỷ lệ kèo bóng đá trực tuyến muốn hợp tác với nhiều công ty, học viện và quốc gia nhằm góp phần nâng cao năng lực công nghệ của Nhật Bản nói chung