脆弱性に関する情報は次のページにまとまっている。 Remote Code Execution by Server-Side Template Injection in Model Metadata Advisory abetlen/llama-cpp-python GitHub 脆弱性の情報(CVE)は次のとおり。 CVE-2024-34359- ...
近年、高度な生成AIや大規模言語モデルが多数登場していますが、それらを動作させるには高価なGPUなど、相応の機器が必要となります。しかし、Intelが提供するPyTorch用エクステンションの「IPEX-LLM」では、Intel製ディスクリートGPUなどでGemmaやLlamaなどのAIを ...
AIモデルをローカルで実行できるオープンソースソフトウェア「llama.cpp」が画像の入力に対応しました。画像とテキストを同時に入力して「この画像には何が写っている?」といった質問に回答させられます。 server : vision support via libmtmd by ngxson · Pull Request ...