个人或单位私自开设小额贷款业务并不合法。以下是对此问题的详细分析：

一、法律对设立商业银行的严格规定

1. 审批制度：根据《中华人民共和国商业银行法》第十一条，设立商业银行必须经国务院银行业监督管理机构审查批准。这一规定确立了银行业务的准入门槛，确保只有经过严格审查并符合条件的机构才能从事商业银行业务。
2. 禁止非法经营：未经国务院银行业监督管理机构批准，任何单位和个人不得从事吸收公众存款等商业银行业务。小额贷款业务，若涉及吸收公众存款或发放贷款，则必须获得相应批准，否则即构成非法经营。

二、小额贷款公司的合法运营条件

1. 合法设立与许可：小额贷款公司作为非银行金融机构，其设立和运营必须遵守相关法律法规，并取得地方金融监管部门的批准。只有合法设立并取得许可的小额贷款公司，才能按照规定为个人和小微企业等提供小额信贷服务。
2. 业务范围与限制：小额贷款公司的业务范围通常限于发放小额贷款，且不得吸收公众存款。其资金来源和运用均受到严格监管，以确保金融市场的稳定和安全。

三、非法开设小额贷款的法律后果

1. 行政处罚：对于未经批准擅自从事小额贷款业务的个人或单位，地方金融监管部门将依法给予行政处罚，包括罚款、没收违法所得等。
2. 刑事责任：若非法开设小额贷款业务情节严重，扰乱金融秩序，还可能触犯《中华人民共和国刑法》中的非法经营罪，面临刑事处罚。