Ya-Ti's Blog

使用 ONNX Runtime 與 OpenVINO 加速影像分類模型推理

Posted on Wed 07 August 2024 in Machine Learning • Tagged with Machine Learning, AI, ONNX, OpenVINO

背景

由於最近生成式 AI 的興起，如 ChatGPT 與 DALL·E，微軟攜手廠商們開始推廣 AI PC。因此，客戶端 ( 邊緣 ) 裝置的 AI 模型推理速度變得 …

建置支援 Windows ARM64 的 OpenCV

Posted on Fri 26 January 2024 in Computer Vision • Tagged with Computer Vision, OpenCV, Windows, ARM64

背景

OpenCV 是一個知名的開源電腦視覺函示庫，包含超過 2500 種的演算法。由於 OpenCV 官方提供的預建置二進位檔案沒有包含 Windows ARM64 …

使用 ONNX Runtime 與 Qualcomm QNN 加速影像分類模型推理

Posted on Wed 24 January 2024 in Machine Learning • Tagged with Machine Learning, AI, ONNX, DirectML, ARM64

2024-05-24 更新：由於 ONNX QNN EP 文件更新很多，因此文章因應而大幅更新。

2024-08-15 更新：更正 MobileNet 相關的內文錯誤

2024-08-19 更新：更新模型量化的相關 …

使用 ONNX Runtime 與 DirectML 加速 Stable Diffusing 模型推理

Posted on Sun 14 January 2024 in Machine Learning • Tagged with Machine Learning, AI, ONNX, DirectML

背景

在先前的實測中，已經利用 ONNX Runtime 與 DirectML 來加速 ResNet50 影像分類器的推理，所以接下來就測試比較複雜也比較實用的生成式 …

使用 ONNX Runtime 與 DirectML 加速 ResNet50 影像分類推理

Posted on Fri 12 January 2024 in Machine Learning • Tagged with Machine Learning, AI, ONNX, DirectML

背景

由於最近生成式 AI 的興起，如 ChatGPT 與 DALL·E，微軟攜手廠商們開始推廣 AI PC。因此，客戶端 ( 邊緣 ) 裝置的 AI 模型推理速度變得 …

如何將 OneNote 筆記搬到另一個帳戶

Posted on Tue 12 October 2021 in Microsoft Office • Tagged with Microsoft Office, Microsoft OneNote

前言

現在很多學校或是組織會提供 Microsoft 365 訂閱服務給人員使用，Microsoft OneNote 包含於該服務之內，是一種基於雲端的筆記本。OneNote 通常 …

如何在 Microsoft Word 中給方程式編號

Posted on Fri 30 April 2021 in Microsoft Office • Tagged with Microsoft Office, Microsoft Word

關於如何在 Microsoft Word 為方程式編號，網路上可以找到很多不同的方法，其實自 Office 2016 之後，其實 Word 是有官方的方程式編號方法，但 …

如何在 WSL 中共享 Windows 10 的 SSH keys

Posted on Fri 30 April 2021 in Tips • Tagged with Windows Subsystem for Linux

由於 WSL 跟 Windows 是兩個獨立的 OS，但是兩個 OS 都會需要用 SSH key，雖然可以各自產生獨立的 key，但是一台機器要管理多個 key 還是 …