Chọn mô hình AI của bạn

Chọn API đám mây, mô hình Windows cục bộ hoặc tùy chọn tích hợp. Kiểm tra điểm cuối để xem thời gian phản hồi và cửa sổ ngữ cảnh trước khi bắt đầu.

Chọn mô hình của bạn

Nhà cung cấp AI đám mây

Sử dụng nhà cung cấp AI đám mây qua điểm cuối API tiêu chuẩn. Lệnh của bạn được gửi đến nhà cung cấp đó, vì vậy văn bản tệp sẽ rời khỏi máy tính của bạn. Điều này phù hợp cho các tác vụ suy luận nặng khi bạn không ngại dữ liệu di chuyển qua mạng để hoàn thành việc xem xét cấu hình phức tạp.

Mô hình cục bộ trên PC

Chạy mô hình trực tiếp trên PC Windows của bạn. Không có gì rời khỏi máy khi sử dụng tùy chọn này. Giữ bí mật và tệp cấu hình của bạn hoàn toàn trên phần cứng, rất lý tưởng cho các thiết lập cân bằng tải nhạy cảm yêu cầu quyền riêng tư nghiêm ngặt trong quá trình xem xét.

Mô hình tích hợp

Một mô hình chạy cục bộ trên PC của bạn.

Kiểm tra kết nối

Nhấn nút Kiểm tra để xác minh điểm cuối đã chọn. Công cụ hiển thị thời gian phản hồi và cửa sổ ngữ cảnh.

Chọn kích thước phù hợp

Gửi bước khó cho mô hình lớn hơn bằng cách sử dụng run_on_model.

Chất lượng khác nhau giữa các mô hình, vì vậy hãy xem xét diff. Sử dụng Ask first để tạm dừng trước mọi hành động thay đổi thứ gì đó. Kiểm tra diff tệp cẩn thận. Chấp nhận các thay đổi chỉ khi bạn hài lòng với các cập nhật cấu hình được đề xuất cho máy chủ của bạn.