web-dev-qa-db-fra.com

Algorithme basé sur GPU sur AWS Lambda

J'ai une fonction qui effectue certaines opérations mathématiques et j'ai besoin d'un système GPU de 16 Go, mais cette fonction ne sera pas toujours déclenchée et le reste du temps, mon système ne sera pas utilisé. J'ai découvert AWS Lambda. Puis-je exécuter un algorithme basé sur GPU sur Lambda ?? Pour que chaque fois que j'ai besoin d'un GPU, j'obtienne le système sur le cloud. J'ai besoin d'une petite description à ce sujet.

10
Amar Malik

Vous ne pouvez pas spécifier l'environnement d'exécution pour les fonctions AWS Lambda, donc non, vous ne pouvez pas exiger la présence d'un GPU (en fait, les machines physiques qu'AWS choisit de mettre dans son pool Lambda le seront presque certainement pas en avoir un).

Votre meilleur pari serait d'exécuter la fonction nécessitant un GPU en tant que travail par lots sur un cluster de calcul configuré pour utiliser des instances de type p. Le guide ici pourrait être utile.

6
Stephen

Actuellement, lambda n'a pas de GPU.

Cependant, si vous avez juste besoin de faire l'inférence; l'émulation via le processeur fonctionne correctement sur AWS lambda; voici un article qui rentre plus dans les détails:

https://aws.Amazon.com/blogs/machine-learning/how-to-deploy-deep-learning-models-with-aws-lambda-and-tensorflow/

1
Neil

Batch est une bonne solution pour certains types de charge de travail. Une autre option est GPU sur ECS , qui pourrait être utilisé pour exécuter des tâches fréquentes en utilisant le GPU.

0
Matt D