> ## Documentation Index
> Fetch the complete documentation index at: https://docs.vidol.chat/llms.txt
> Use this file to discover all available pages before exploring further.
# Utiliser Ollama
> Découvrez comment utiliser Ollama dans LobeVidol, exécutez des modèles de langage de grande taille localement et profitez de lexpérience d'IA à la pointe de la technologie.'
Ollama est un cadre puissant pour exécuter localement des modèles de langage de grande taille (LLM), prenant en charge divers modèles de langage, y compris Llama 2, Mistral, etc. Désormais, LobeVidol prend en charge l'intégration avec Ollama, ce qui signifie que vous pouvez facilement utiliser les modèles de langage fournis par Ollama dans LobeVidol pour améliorer vos applications.
Ce document vous guidera sur la façon d'utiliser Ollama dans LobeVidol :
## Utiliser Ollama sur macOS
[Téléchargez Ollama pour macOS](https://ollama.com/download?utm_source=lobehub\&utm_medium=docs\&utm_campaign=download-macos) et décompressez-le, puis installez-le.
En raison de la configuration par défaut d'Ollama, il est réglé pour un accès local uniquement au démarrage, donc l'accès cross-origin et l'écoute des ports nécessitent des réglages supplémentaires des variables d'environnement `OLLAMA_ORIGINS`. Utilisez `launchctl` pour définir la variable d'environnement :
````
```bash
launchctl setenv OLLAMA_ORIGINS "*"
```
Après avoir terminé la configuration, vous devez redémarrer l'application Ollama.
````
Ensuite, vous pouvez dialoguer avec le LLM local dans LobeVidol.
## Utiliser Ollama sur Windows
### Installer Ollama localement
[Téléchargez Ollama pour Windows](https://ollama.com/download?utm_source=lobehub\&utm_medium=docs\&utm_campaign=download-windows) et installez-le.
### Configurer Ollama pour autoriser l'accès cross-origin
En raison de la configuration par défaut d'Ollama, il est réglé pour un accès local uniquement au démarrage, donc l'accès cross-origin et l'écoute des ports nécessitent des réglages supplémentaires des variables d'environnement `OLLAMA_ORIGINS`.
Sur Windows, Ollama hérite de vos variables d'environnement utilisateur et système.
1. Tout d'abord, cliquez sur Ollama dans la barre des tâches de Windows pour quitter le programme.
2. Éditez les variables d'environnement système depuis le panneau de configuration.
3. Éditez ou créez la variable d'environnement Ollama `OLLAMA_ORIGINS` pour votre compte utilisateur, avec la valeur `*`.
4. Cliquez sur `OK/Appliquer` pour enregistrer, puis redémarrez le système.
5. Relancez `Ollama`.
### Dialoguer avec le grand modèle local dans LobeVidol
Ensuite, vous pouvez dialoguer avec le LLM local dans LobeVidol.
## Utiliser Ollama sur Linux
### Installer Ollama localement
Installez-le avec la commande suivante :
```bash theme={null}
curl -fsSL https://ollama.com/install.sh | sh
```
Ou, vous pouvez également consulter le [guide d'installation manuelle pour Linux](https://github.com/ollama/ollama/blob/main/docs/linux.md).
### Configurer Ollama pour autoriser l'accès cross-origin
En raison de la configuration par défaut d'Ollama, il est réglé pour un accès local uniquement au démarrage, donc l'accès cross-origin et l'écoute des ports nécessitent des réglages supplémentaires des variables d'environnement `OLLAMA_ORIGINS`. Si Ollama fonctionne en tant que service systemd, vous devez utiliser `systemctl` pour définir la variable d'environnement :
1. Éditez le service systemd en appelant `sudo systemctl edit ollama.service`.
```bash theme={null}
sudo systemctl edit ollama.service
```
2. Pour chaque variable d'environnement, ajoutez `Environment` sous la section `[Service]` :
```bash theme={null}
[Service]
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_ORIGINS=*"
```
3. Enregistrez et quittez.
4. Rechargez `systemd` et redémarrez Ollama :
```bash theme={null}
sudo systemctl daemon-reload
sudo systemctl restart ollama
```
### Dialoguer avec le grand modèle local dans LobeVidol
Ensuite, vous pouvez dialoguer avec le LLM local dans LobeVidol.
## Déployer Ollama avec Docker
### Tirer l'image Ollama
Si vous préférez utiliser Docker, Ollama propose également une image Docker officielle que vous pouvez tirer avec la commande suivante :
```bash theme={null}
docker pull ollama/ollama
```
### Configurer Ollama pour autoriser l'accès cross-origin
En raison de la configuration par défaut d'Ollama, il est réglé pour un accès local uniquement au démarrage, donc l'accès cross-origin et l'écoute des ports nécessitent des réglages supplémentaires des variables d'environnement `OLLAMA_ORIGINS`.
Si Ollama fonctionne en tant que conteneur Docker, vous pouvez ajouter la variable d'environnement à la commande `docker run`.
```bash theme={null}
docker run -d --gpus=all -v ollama:/root/.ollama -e OLLAMA_ORIGINS="*" -p 11434:11434 --name ollama ollama/ollama
```
### Dialoguer avec le grand modèle local dans LobeVidol
Ensuite, vous pouvez dialoguer avec le LLM local dans LobeVidol.
## Installer des modèles Ollama
Ollama prend en charge divers modèles, vous pouvez consulter la liste des modèles disponibles dans [Ollama Library](https://ollama.com/library) et choisir le modèle qui vous convient.
### Installation dans LobeVidol
Dans LobeVidol, nous avons par défaut activé certains modèles de langage courants, tels que llama3, Gemma, Mistral, etc. Lorsque vous sélectionnez un modèle pour dialoguer, nous vous informerons que vous devez télécharger ce modèle.
Une fois le téléchargement terminé, vous pouvez commencer à dialoguer.
### Utiliser Ollama pour tirer des modèles localement
Bien sûr, vous pouvez également installer des modèles en exécutant la commande suivante dans le terminal, en prenant llama3 comme exemple :
```bash theme={null}
ollama pull llama3
```
## Configuration personnalisée
Vous pouvez trouver les options de configuration d'Ollama dans `Paramètres` -> `Modèle de langage`, où vous pouvez configurer le proxy, le nom du modèle, etc.
Vous pouvez consulter [Intégration avec Ollama](/fr/docs/self-hosting/examples/ollama) pour en savoir plus sur le déploiement de LobeVidol afin de répondre aux besoins d'intégration avec Ollama.