Forwarded from Hacker News (yahnc_bot)
Llama.cpp: Full CUDA GPU Acceleration https://github.com/ggerganov/llama.cpp/pull/1827
GitHub
CUDA full GPU acceleration, KV cache in VRAM by JohannesGaessler · Pull Request #1827 · ggerganov/llama.cpp
This PR adds GPU acceleration for all remaining ggml tensors that didn't yet have it. Especially for long generations this makes a large difference because the KV cache is still CPU only on mas...
Forwarded from Solidot
英特尔演示新的芯片背面供电技术
2023-06-12 19:20:00 by 团圆奇遇
英特尔计划在明年推出名为 RibbonFET 的新晶体管技术,以及新的供电方法 PowerVia。PowerVia 是英特尔版本的背面供电技术。今天的芯片是在正面将晶体管与供电和数据传输互连在一起,而背面供电将所有供电互连转移到芯片背面。这会产生两个影响,其一是为正面的数据互连留出了更多空间,其二是供电互连可以更大因此电阻更小。英特尔测试了由当前一代的晶体管和 PowerVia 组合的处理器内核,显示内核频率提升逾 6%,设计更紧凑,功耗降低 30%。过去几代的英特尔芯片在功耗效率上都落后于竞争对手,如 AMD 使用台积电 7 纳米和 5 纳米工艺制造的芯片。
https://spectrum.ieee.org/backside-power-delivery
#电源
2023-06-12 19:20:00 by 团圆奇遇
英特尔计划在明年推出名为 RibbonFET 的新晶体管技术,以及新的供电方法 PowerVia。PowerVia 是英特尔版本的背面供电技术。今天的芯片是在正面将晶体管与供电和数据传输互连在一起,而背面供电将所有供电互连转移到芯片背面。这会产生两个影响,其一是为正面的数据互连留出了更多空间,其二是供电互连可以更大因此电阻更小。英特尔测试了由当前一代的晶体管和 PowerVia 组合的处理器内核,显示内核频率提升逾 6%,设计更紧凑,功耗降低 30%。过去几代的英特尔芯片在功耗效率上都落后于竞争对手,如 AMD 使用台积电 7 纳米和 5 纳米工艺制造的芯片。
https://spectrum.ieee.org/backside-power-delivery
#电源
Forwarded from Hacker News (yahnc_bot)
New exoplanet found orbiting twin suns https://www.space.com/tatooine-exoplanet-binary-systeim-twin-suns
Space.com
New Tatooine-like exoplanet discovered orbiting twin suns. Meet BEBOP-1c.
The discovery of the new planet BEBOP-1c confirms the 2nd-ever known planetary system orbiting twin stars.
Forwarded from Hacker News (yahnc_bot)
The microarchitectures that I saw and the ones that I hope to one day see [pdf] https://hardwear.io/usa-2023/presentation/the-microarchitectures-that-I-saw-and-the-ones-that-I-hope-to-one-day-see.pdf
Forwarded from Cyunreiの插画收藏夹