研究環境・インフラ

AI 開発研究環境

DGX Spark 環境

• NVIDIA DGX Spark: 2 台
• 処理能力: 405B パラメータクラスの大規模 LLM が実働可能
• 用途: GPT OSS120B Meta Llama 3.1 405B、DeepSeek V2 シリーズなどのオープンモデルを完全オンプレミスで運用

＊京大のスーパーコンピュータはNVIDIA A100 80GB SXMで、80GBを超えるオープンモデルを運用できない

ワークステーション

• RTX 5070 Ti 搭載 PC: VRAM 16GB / RAM 128GB
• 時系列計算、高性能なローカル推論・開発環境を提供

セキュアなネットワーク環境

• 京大 VPN に加え、研究室独自の VPN（プライベートネットワーク）を構築
• 高セキュリティ状態でリモートから研究室PC・AI専用用 PC にアクセス可能

LLM 開発体制

• クローズド LLM: セキュアな環境での専門的活用
• オープン LLM: 汎用的な活用と研究開発
• 各 LLM の特性理解とメリット・デメリットの明確化