radar icon indicating copy to clipboard operation
radar copied to clipboard

Partidos não existentes

Open leonardofl opened this issue 12 years ago • 31 comments

Se Radar encontra partido que não está em sua lista partidos.txt, o parlamentar será computado como "sem partido", o que não parece desejável (no importador da cdep).

Talvez o ideal fosse gerar um partido sem número, mas isso complica na hora de gerar o gráfico e tb pra descobrir quem realmente não tem partido.

Não sei oq fazer =P

leonardofl avatar Dec 19 '12 19:12 leonardofl

@leonardofl, tem como dar mais informações a respeito? Como, exatamente, esta ocorrendo esse bug?

aleborba avatar Apr 26 '13 00:04 aleborba

Acontece q no gráfico temos uma esfera "sem partido", mas se um parlamentar tem um partido estranho q não conhecemos, ele é contado como sem partido e deixa a bolinha do sem partido ainda maior, oq dá uma falsa informação pro usuário, a de q existem mts parlamentares sem partido, qd na verdade existe vários parlamentares de estranhos partidos desconhecidos.

leonardofl avatar Apr 26 '13 08:04 leonardofl

Certo, essa lista de partidos no arquivo partidos.txt é a lista de partidos atuais ou a lista de todos os partidos, incluindo os que um dia existiram?

aleborba avatar Apr 26 '13 13:04 aleborba

Fiz um parser para a página de partidos existentes. Mas pelo que eu olhei, isso não basta. São precisos todos os partidos e seus respectivios números, mesmo que eles não existam mais.

Alguém sabe onde acho isso? O TSE não foi amigável e não consegui essas informações em um formato fácil de se parsear.

Uma coisa que pensei é: Inserimos os partidos antigos manualmente no arquivo (pq esses já se foram e não vão mudar mesmo) e fazemos um bot de verificação usando o parser na página onde o TSE mantém atualizados todos os partidos atuais. O bot encontrando um partido novo ele insere no final do arquivo partidos.txt.

O que acham? Não é a mais elegante, mas é uma solução :)

aleborba avatar Apr 26 '13 20:04 aleborba

É uma solução, e é suficientemente elegante para o meu gosto! Esta lista de partidos não é uma coisa que esperamos que sofra muitas modificações.

saulotrento avatar Apr 26 '13 21:04 saulotrento

Se quiserem podem fazer o bot, mas como não é todo dia q surgem novos partidos, acho q updates manuais seriam suficientes... o TSE disponibiliza isso em dados abertos? pq se não, mais chances ainda do bot quebrar no longo prazo (e esse é um bot pra funcionar a longo prazo)

sobre achar números de partidos antigos é realmente um desafio! alguns achei com pesquisas (não tão simples na Internet). De repente conversando com algumas pessoas por aí pode serum caminho...

leonardofl avatar Apr 26 '13 21:04 leonardofl

Eles disponibilizam uma tabela no link: http://www.tse.jus.br/partidos/partidos-politicos

É bem fácil de parsear, pq ela tá meio q padronizada. Mas concordo que é algo que pode mudar.

O que pode ser feito é adicionar junto ao bot um verificador para analisar a estrutura do html retornado, em caso de mudança, ele dispara um alerta para algum lugar.

aleborba avatar Apr 26 '13 21:04 aleborba

Blz, ideia legal!

leonardofl avatar Apr 26 '13 21:04 leonardofl

:+1: Vou trabalhar em algo

aleborba avatar Apr 26 '13 21:04 aleborba

Pessoal, A partir de 1979 é suficiente?

aleborba avatar Apr 26 '13 23:04 aleborba

Acho que é super suficiente Alê. Até agora o que temos de mais antigo de dados é de 1991.... Se precisarmos de algo mais lá pra trás ai avaliamos.


Diego Rabatone Oliveira diraol(arroba)diraol(ponto)eng(ponto)br Identica: (@diraol) http://identi.ca/diraol Twitter: @diraol

2013/4/26 Alê Borba [email protected]

Pessoal, A partir de 1979 é suficiente?

— Reply to this email directly or view it on GitHubhttps://github.com/leonardofl/radar_parlamentar/issues/69#issuecomment-17104713 .

diraol avatar Apr 27 '13 00:04 diraol

Vasculhando arquivos do TSE por aqui eu acabei encontrando um possível problema. Alguns partidos acabaram utilizando a mesma sigla de outros, mas com significados diferentes.

Como o radar trata isso hoje?

PS. Já levantei 95 siglas

aleborba avatar Apr 27 '13 00:04 aleborba

Legal, por mim 1988 já seria suficiente.

Essa questão da mudança de nomes é complicado mesmo, mas pro Radar acho melhor considerar cada par [nome, número] um partido diferente.

leonardofl avatar Apr 27 '13 11:04 leonardofl

@leonardofl, o radar já faz essa diferenciação?

aleborba avatar Apr 27 '13 12:04 aleborba

Provável... but not quite sure... =T

leonardofl avatar Apr 28 '13 11:04 leonardofl

Um grande problema encontrado pessoal, a API do Senado não traz o número do partido, apenas a sigla. (ao menos eu não consegui encontrar. Dessa forma, se eu terminar de implementar a mudança (na verdade já esta implementada) vai quebrar no importador do Senado (ainda não examinei os outros).

Vou mandar um email para o pessoal da API (se vocês já tiverem um contato direto, ajudaria) para pedir a possível inclusão dessa informação no retorno da API.

aleborba avatar May 24 '13 19:05 aleborba

Alê, nós temos um bom contato com o pessoal lá do Senado sim, vou mandar email pedindo para adicionarem isso na API (mando com cópia para a lista do radar).

diraol avatar May 24 '13 19:05 diraol

Ótimo @diraol !

aleborba avatar May 24 '13 19:05 aleborba

Acabei de verificar e o mesmo acontece com a Câmara Federal e com a Câmara Municipal de SP. Temos as siglas mas não temos os números.

aleborba avatar May 24 '13 21:05 aleborba

Mas da pesquisa q eu fiz, lembro q o normal é q um partido troque de nome, mas mantenha o número. e q praticamente (?) não tem partido que tenha mudado de número enquanto mantivesse o nome. Talvez possamos considerar essa proposição como uma premissa... (?)

leonardofl avatar May 24 '13 23:05 leonardofl

Será que isso ajuda? http://diraol.eng.br/arquivos/tabela_de_partidos_politicos_brasileiros_1994_a_2010_cem.ods (via Centro de Estudos da Metrópole)


Diego Rabatone Oliveira diraol(arroba)diraol(ponto)eng(ponto)br Identica: (@diraol) http://identi.ca/diraol Twitter: @diraol

Em 24 de maio de 2013 20:20, Leonardo Leite [email protected]:

Mas da pesquisa q eu fiz, lembro q o normal é q um partido troque de nome, mas mantenha o número. e q praticamente (?) não tem partido que tenha mudado de número enquanto mantivesse o nome. Talvez possamos considerar essa proposição como uma premissa... (?)

— Reply to this email directly or view it on GitHubhttps://github.com/leonardofl/radar_parlamentar/issues/69#issuecomment-18435195 .

diraol avatar May 24 '13 23:05 diraol

@leonardofl o problema não é o nome. Realmente um partido pode trocar de nome mas não pode trocar de número. O problema é que trabalhamos com siglas, e não o nome completo. Dessa forma, (exemplos da minha cabeça) PSC, 12 => Partido Social Cristão, numero 12 e PSC, 43 => Partido Socialista Comunista, numero 43 Temos dois partidos diferentes com siglas iguais e numeros diferentes.

aleborba avatar May 25 '13 00:05 aleborba

Mas @aleborba , que eu saiba não podem haver dois partidos com a mesma sigla ao mesmo tempo.

Ai é uma questão de cruzar o período com a lista de partidos existentes naquele período, não? (Claro que se vier da casa legislativa é melhor) ​

diraol avatar May 25 '13 00:05 diraol

Isso é verdade @diraol. Não podem existir duas siglas iguais no mesmo período. (na verdade eu não sei se isso é uma lei, mas eu não encontrei ocorrências na pesquisa que eu fiz no TSE).

Mas ai teríamos que colocar um dado a mais na lista de partidos.txt e na base, que é o período de existência do partido. Certo?

aleborba avatar May 25 '13 00:05 aleborba

Certo! (Já não temos isso? Seria legal ter essa informação, pode ser importante em algum momento não muito longe).

diraol avatar May 25 '13 00:05 diraol

Não temos isso não. O modelo de dados ficaria um pouco mais pesado, mas talvez tenhamos que fazer isso realmente. Só que vamos ter que inserir as datas de criação e eventual extinção de cada partido. Ou, para partidos que não tenham essa informação o programa pode agir como se o partido sempre tivesse existido.

saulotrento avatar May 25 '13 20:05 saulotrento

No mesmo lugar onde encontrei as 96 legendas que tenho no arquivo, também consigo as datas de inicio e fim dos partidos. :)

Vou varrer de novo pra levantar essas infos. :metal:

aleborba avatar May 27 '13 01:05 aleborba

@saulotrento isso foi adicionado ao modelo de dados? Como anda essa issue?

diraol avatar Nov 02 '13 18:11 diraol

Estou por fora quanto ao andamento desta issue.

saulotrento avatar Nov 03 '13 12:11 saulotrento

Eu to pendurado com essa issue. O pessoal do senado inclusive incluiu um parametro extra pra ver isso. Mas eu confesso que fiquei muito sem tempo :(

aleborba avatar Nov 04 '13 19:11 aleborba