coding | Steven’s Diary | 为0700.hk卖命中如你所见这只是一个日记本而已#赛博鸡蛋 一些羊毛#光与影 摄影作品或创作过程记录#吃点好 吃啥了#面基#活动#灵感菇 一些 MVP 的 demo 或 idea 记录点击讨论区进群友情链接：@stvgateway 联系Steven：@stvlynn_bothttps://diary.stv.pm#coding 最近 Vibe 了一个小玩具，可以在 iOS 端运行 llama.cpp 跑本地推理，也支持 OpenAI 的 API 格式，并且支持各种 Shortcuts 定制 System Prompts 直接从键盘里调用，欢迎大家自己编译体验https://diary.stv.pm/posts/5376https://diary.stv.pm/posts/5376Sun, 28 Jun 2026 18:29:17 GMT<div> <img src="/static/https://cdn5.telesco.pe/file/SuawgtwBIJ1qtOpvdTvEJTe3q8aMM2FeDuGABFWz-4cgsU3DDAu8mNr5rTlWynGVeNMbNLKqCbSYS72IJ_T3nuYrWSbMjKRj3rf6W-G3ilxS-P7cMWgJVaw2buB5UbdXxPfgW_w3qy1k0YG0r7Pzc1DsXw8LrsnW1XT8BaVKc8E9Gc8ZJnUhdinhCJFvDT_7m8KAIyBPHLI1qm_h4IaJ7cWiwx520wl7HWk09W2NZlZJwZw2CXztrZ8tEzjQGRoItJ8ZZK3_q20brgaGjLTdI8-M5VKRNOifX5rJ5kvialJh6Y06BdwbKtrZLdhPuAc-E4uBt9Rzx8VTl6gp6rTJXg.jpg" alt="#coding 最近 Vibe 了一个小玩具，可以在 iOS 端运行 llama.cpp 跑本地推理，也支持 OpenAI 的 API 格式，并且支持各种 Shortcuts 定制 System Prompts 直接从键盘里调用，欢迎大家自己编译体验" loading="lazy" /> </div><a href="/search/%23coding">#coding</a> 最近 Vibe 了一个小玩具，可以在 iOS 端运行 llama.cpp 跑本地推理，也支持 OpenAI 的 API 格式，并且支持各种 Shortcuts 定制 System Prompts 直接从键盘里调用，欢迎大家自己编译体验。近几天也会折腾一下 App Store 上架事宜。也用自己的设备测了下性能，Qwen 3.5-0.8B Q4在 iPhone 17 Pro 上大概 60tps，iPhone 13 Pro 上大概 20tps，也可以作为国行设备的 Apple Intelligence 缺少 Writing Tools 的替代品。 <a href="https://github.com/cyyself/opentihui" target="_blank">https://github.com/cyyself/opentihui</a>