吳玉章到日本後參加了一係列愛國學生運動，成為四川留日學生中的積極分子。
1904年元旦，因清朝末年中國的貧弱，日本看不起中國，懸掛萬國旗時，故意不掛中國國旗。他挺身而出，代表留日學生向學校當局嚴正提出：“必須立刻向中國學生道歉並糾正毛病，否則，就要舉辦罷課和絕食以示抗議。”在強大壓力下，學校當局隻得認錯道歉。
當時，革命文字盛行，如鄒容的《革命軍》，留日學生的《浙江潮》《江蘇》等雜誌，隨著這些讀物的影響，他的思想也隨之變化，認為革命是對的。
當時，讀書人多看不起孫中山，1905年孫中山到東京後，他和另外一些最激進的革命派，就和孫中山一起組織了革命同盟會。
同年，留日學生反對“取締規則”運動失敗後，一個團結學生的群眾組織“留學生會館”竟至無人過問。他一人支持了9個多月，終於感動了大家，恢複了組織。
1907年以後，由於起義接連失敗，東京留學生中革命者寥寥可數。他卻因此更加堅定振奮，把四川的同盟會員鼓舞起來，以團結各省的革命者。當時他主辦《四川雜誌》；章太炎主辦《民報》。《民報》經費困難，常至斷炊，他竭力調和奔走，後來在四川會員中捐了許多錢去支持《民報》。1908年，《四川雜誌》與《民報》同時被封，他被判半年徒罪，因為是學生，結果緩期執行。
當時革命形勢低落，暗殺成風，但他卻不讚成暗殺。當時汪精衛寫信要他寄些製造炸彈的藥品，他回信說：“征諸曆史，各國革命失敗時，則暗殺之風必盛。誠以誌士仁人知大勢已去，唯有一死以報國。其誌可嘉，其行亦可憫矣。今我革命非無希望，敵人正造謠說革命處處失敗，以圖渙散我革命之人心。兄為我黨有名而能文之士，如果亦隨吾黨勇壯之士實行暗殺，即使有成，亦徒使敵人造謠，誌士灰心，而黨亦受莫大損失。弟不讚成此舉，故不能寄藥品來。”