盡管梁鼎芬所揭康“遍謁朝貴”是為了“希圖利祿”，看上去有些不光彩，不過，從康當時的地位和處境去考慮，可能更接近當時的實際情況。由於他們二人早期曾有過較深的交往，梁說恐非毫無憑據。對此，穗石閑人《讀梁節庵太史〈駁叛犯逆書〉書後》言：
仆嚐聞太史入翰林後，初識康，恒有往還。……康赴順天試不售，流落京師，遍謁朝貴，上書甚多。太史屢函諍之，又寄七律一首雲：“悵望江頭日暮雲，詞人絕代禦蘭芬。上書不減昌黎興，對策能為同甫文。可惜平生邱壑願，竟違天上鳳鸞群。倚門慈母今頭白，玉雪如何溷世紛。”末四句蓋惜之，亦譏之。[6]
穗石閑人此文與梁鼎芬《駁逆犯康有為》同時刊於《申報》，這裏不排除他是在為梁鼎芬幫腔，文中說康與梁“恒有往還”，自然有助於增加梁鼎芬揭露康有為諸事的可信程度。不過，他提到二人關係曾經密切應是實情，雖然康有為本人在自編年譜中沒有一字提及梁鼎芬，但這並不說明他們之間早年沒有私誼。
從一些材料看，康有為在粵時不僅與梁鼎芬有交往，而且與梁之舅父翰林院編修張鼎華（字延秋）有往來，並視為知己。據康氏年譜，光緒五年（1879年）康居西樵山，“編修張延秋先生（諱鼎華）與朝士四五人來遊樵山”，相與議論，由是訂交。後多次訪晤，“盡知京朝風氣”，二人且有詩文唱和。[7]康、梁結識大約也在此時。次年，梁鼎芬中進士，改庶吉士，舅甥皆供職翰林院。光緒十一年（1885年）梁鼎芬因糾彈李鴻章，被以“妄劾”罪連降五級調用，於是南下廣東，主講於惠州豐湖書院。後應兩廣總督張之洞之邀，先後出任肇慶端溪書院及廣州廣雅書院山長，梁與康“恒有往還”或在此時。康有為詩集中即收有《梁星海編修免官寄贈》、《寄梁大編修》諸詩。[8]據康年譜，光緒十四年（1888年）夏，因“張延秋頻招遊京師”，康北上應試，不料，“既至而延秋病重，遂視其歿，營其喪”[9]。從穗石閑人所說康流落京師期間“太史屢函諍之”的情況看，張延秋歿後康與梁鼎芬曾有書信往來，可見二人關係之密切。次年夏康有為返粵後，創萬木草堂，廣招門徒。梁鼎芬曾贈詩“九流混混誰真派，萬木森森一草堂”以示讚譽，[10]可見他們仍然是朋友。當然，對康熱衷功名的心態，梁每每予以諷勸。其《題簡竹居讀書草堂》詩雲：“迎陽故作軒窗敞，耐冷還依水石嚴。今日承平無個事，幹龍不必問飛潛。”[11]其中即含諷康之意。康有為自編年譜中諱言早期與梁鼎芬之關係，可能與戊戌後二人關係急劇惡化有關。