摘要： CloudFlare介紹限速的文章， 講述了限速的使用場景和運作方式。 最難的是構建一個既高效又匹配需求的算法。 1.流行的限速器 ① 固定窗口限速 Fixed Window Counter 跟蹤固定時間間隔（如 1 分鐘）內的請求數量，一旦達到上限，就會拒絕該窗口中的后續所有請求。 UserCas 閱讀全文

摘要： kube-scheduler負責將k8s pod調度到worker節點上。 當你部署pod時，在manifest文件pod規格上會指定cpu、memory、親和性affinity、污點taints、優先級、持久盤等。 調度器的主要工作是識別create request然后選擇滿足要求的最佳節點。 分 閱讀全文

摘要： kong網關轉發http服務，各大博主都已經聊包漿了。 kong網關原生支持代理gRPC請求，本文通過一個示例來記錄通過kong網關管理gRPC服務，并且使用grpcbin和grpcurl哼哈二將來模擬和驗證grpc服務能力。 kong網關核心的控制面實體： service ： 上游服務的抽象 ro 閱讀全文

摘要： hello， 這是有態度馬甲的第xxx篇原創口水文。有趣指數5顆星，有用指數5顆星。 😠😠本文是國外技術網站medium上點贊超過200+的翻譯/筆記文，有關規避/解決冪等請求的編程指南。 1. 軟件領域二次請求無法避免 我們生活的每時每刻都是獨一無二的，事情/動作可能不會相同的形式再次發生。 閱讀全文

摘要： 1. 在微服務背景和前后端分離開發風格下， jwt作為授權和信息交換的技術方案，得以廣泛梭哈。 1> 授權 用戶一旦通過登錄認證， 會被下發一個token， 之后的每次請求都會帶上這個token， 將能訪問該token允許的資源/服務， 單點登錄廣泛采用了jwt， 因為它負載輕量且自然跨域使用。 2 閱讀全文

摘要： 最近在倒騰“AI大模型基礎設施”， 宏觀目標是做一個基于云原生的AI算力平臺，目前因公司隱私暫不能公開宏觀背景和技術方案， 姑且記錄實踐中遇到的一些技能點。 前文已經記錄了第1步： 使用arena 提交訓練任務的實踐。 今天我們記錄聊一聊平臺側另一個核心能力： 動態納管云原生k8s集群，并監聽AI/ 閱讀全文

摘要： 最近在倒騰“AI大模型基礎設施”， 宏觀目標是做一個基于云原生的AI算力平臺，目前因公司隱私暫不能公開宏觀背景和技術方案， 姑且記錄實踐中遇到的一些技能點。 Arena是阿里云開源的命令行工具，幫助算法開發者和數據科學家，在無需云原生技能的前提下，提交訓練和評測任務、管控模型, 現在已經捐贈給kub 閱讀全文

摘要： Ingress 這個老6，結合nodeport和ClusterIp兩種服務類型，你在引流這一塊玩的花啊。 入口一夫當關，對內如魚得水。 閱讀全文

摘要： hello， 我是馬甲哥， 這是我的第184篇原創技術文章， 也是周志明的軟件架構課的讀書筆記。 1. 事務處理的目標：數據狀態的一致性 當我們談事務處理，就是在談確保數據狀態的一致性Consistency。 一致性： 確保數據是正確的，不同數據間不會產生矛盾 （這里的一致性與分布式共識算法中的一致 閱讀全文

摘要： golang官方指南給了一些代碼片段來，層層遞進演示了信道的能力: 1>. 信號量 2>. 限流能力 var sem = make(chan int, MaxOutstanding) func Serve(queue chan *Request) { for req := range queue { 閱讀全文