小米的組織架構基本上是三級：合夥人一層，工程師一層，基層員工一層。小米是以工程師為主的，這些人都非常有經驗，這些人的簡曆和能力超過了許多創業公司的副總裁和CTO，他們實力都非常強。所以小米很多的決策都下移到工程師來決定。在這樣的情況下，工程師和合夥人主要是監督的角色。
小米不會讓團隊太大，稍微大一點就拆分成小團隊。從小米的辦公布局就能看出這種組織結構：一層產品、一層營銷、一層硬件、一層電商，每層由一名創始人坐鎮，能一竿子插到底的執行。大家互不幹涉，都希望能夠在各自分管的領域給力，一起把這個事情做好。
小米不僅扁平化管理，雷軍在組織形式和管理文化上也做了不少出格的事。
第一，小米沒有KPI。這在傳統企業看來是很不可思議的，即使在互聯網公司也沒有哪家企業是不做績效評估的。
第二，他們的管理層很少，他們的管理異常扁平化，把職能拆得很細。這也對合夥人的能力提出很高的要求，因為這意味著他們要管的事情很多。目前看來，他們幾個合夥人都還頂得住。
第三，不開會，甚至做出的決策都不發郵件，有什麽事情就在米聊群裏解決，連報銷都在米聊截個圖就可以了。
很多公司都知道扁平化的好處，但是，經常一放就亂，隻好采取軍隊式的多層級管理。更讓人驚奇的是：如此扁平化，小米竟然沒有KPI。
維持扁平化加速度的第一源頭是小米的八個合夥人。以前是七個，雷軍是董事長兼CEO，林斌是總裁，黎萬強負責小米的營銷，周光平負責小米的硬件，劉德負責小米手機的工業設計和供應鏈，洪鋒負責MIUI，黃江吉負責米聊，後來增加了一個——負責小米盒子和多看的王川。洪鋒稱：“這個公司的業務雄心和容量大，所以說它足夠容得下這麽多有能力的人，大家都希望我們的創業夥伴能夠在各自分管的領域給力，一起把這個事情做好。”