公司不可以单方面解除财务负责人除非财务负责人有重大过失.
根据《中华人民共和国劳动合同法》
第三十九条 劳动者有下列情形之一的用人单位可以解除劳动合同:
(一)在试用期间被证明不符合录用条件的;
(二)严重违反用人单位的规章制度的;
(三)严重失职营私舞弊给用人单位造成重大损害的;
(四)劳动者同时与其他用人单位建立劳动关系对完成本单位的工作任务造成严重影响或者经用人单位提出拒不改正的;
(五)因本法第二十六条 第一款第一项规定的情形致使劳动合同无效的;
第四十三条 用人单位单方解除劳动合同应当事先将理由通知工会.用人单位违反法律、行政法规规定或者劳动合同约定的工会有权要求用人单位纠正.用人单位应当研究工会的意见并将处理结果书面通知工会.
第四十八条 用人单位违反本法规定解除或者终止劳动合同劳动者要求继续履行劳动合同的用人单位应当继续履行;劳动者不要求继续履行劳动合同或者劳动合同已经不能继续履行的用人单位应当依照本法第八十七条 规定支付赔偿金.
第八十七条 用人单位违反本法规定解除或者终止劳动合同的应当依照本法第四十七条 规定的经济补偿标准的二倍向劳动者支付赔偿金.